Что вы думаете о высказывании научного руководителя НИИ Системных исследований РАН академика Владимира Бетелина об ИИ?

Question

Академик считает, что ИИ является просто распиаренным проектом, и на 90% состоит из маркетинга. Что реальные возможности ИИ сильно преувеличены, и он в принципе не способен заменить человека во многих отраслях, например, таких как медицина, безопасность, оборона, и пр. Т.е. ИИ не способен работать с бесконечномерными множествами, а только с конечномерными, такими, как игра в шахматы, например. А ,например, водить автомобиль он может только при ограниченных условиях. Или, в медицине, он даёт большой процент неправильных диагнозов. И обучить его работать с бечконечномерностями не представляется возможным.

Answer 1

Академику виднее. Думаю он прав, ИИ пока не может полностью заменить человека.

Обратимся к истории ИИ.

Первые мыслящие машины создали в 19421-56 г. В истории ИИ были взлёты и падения, бум пришёлся на 1980-87 г.

В 21 веке - доступ к большим данным, передовым компьютерам и методам машинного  обучения. ИИ применён в экономике.

На 2020-24 годы началась эра ИИ. Большие языковые модели уже могут рассуждать, познавать, обладает вниманием и способны к творчеству. Пока это все способности ИИ, которые присущи человеку.

С 2020-по наше время: GPT-3,Gato,GPT-4 - это ещё ранние незавершённые версии ИИ.

Человека заменить не так быстро и просто. Может быть уйдёт огромное количество лет, может быть заморозят проект. Было неоднократно за историю ИИ. Ведь это немалые деньги.

Answer 2

Интеллект штука сложная. Состоит из пяти компонентов (или 5 свойств) -  сравнение, различение, суждение, понимание и наконец - принятие решения.
Как пример, сортировка бананов в кладовке магазина – спелый на прилавок, зеленый оставляем дозревать в ящике.
Сначала различаем, что это банан, а не что-то другое.
Затем, сравниваем со зрелым бананом.
Выводим суждение – насколько зрелый / не зрелый.
Понимаем, что достаточно зрелый.
И, наконец, принимаем решение - на прилавок.
Понимание – это свойство человеческого интеллекта.  У ИИ, отсутствует «понимание» - он не понимает, что делает.  
Имитация «понимания» ИИ реализуется  - через быстрый перебор больших объемов данных. Чем больше доступных, вычислительной мощи и объемов данных, тем правдоподобнее имитация.
В этом, вся разница. Человек понимает, что делает.
В тех областях, где важно ПОНИМАНИЕ – человек незаменим.
Или, заменим другим человеком.  

Comments

Василий, т.е. отличие человека от ИИ в том, что у ИИ нет смыслов? Например, смысл человеческого существования(физического) - сохранить свою физическую форму. Но ведь это же тоже своего рода система, а генетический код - программа. Тогда в чём отличие? В том, что человек может самовольно нарушать заложенную в него  изначально программу? А если это делает не сам человек, а вирусы? В компьютере же тоже вирусы могут нарушить его работу?

---

Есть такое понятие – «ошибка интеллекта».  Когда человек, зарываясь в частности, теряет общую картину. За деревьями – не видит леса.
Чрезмерно используя такие свойства интеллекта как различение и сравнение, теряет общую картину и выводит суждения из совокупности мелких деталей. Забывая, что видит только часть полной картины. Сильный интеллект – мощная вещь, но и причина многих ошибок.

И если смотреть не на детали, а на картину в целом… То, станет очевидно, что разница между человеком и ИИ – такая же, как между автором книги и её «главным героем».
Существование и поведение «главного героя» полностью зависят от автора. И, они, никак не влияют на жизнь автора. «Нарисованный тигр - не кусается».
Компьютерные вирусы - "софтовые". Они могут повлиять или поломать только "софт". Ни одному компьютерному вирусу не дано сломать "железо". Погнуть планку памяти,обломить уголок процессора или поменять провода на блоке питания.
Так, и "главный герой" книги, никогда не разовьется до её автора.
Есть граница, между воображаемым миром и реальным.

---

Василий, а как это вообще работает? Как компьютер складывает и вычитает? Чисто технически, что происходит на уровне атомов, или что там вообще задействовано? Просто я в компах чайник, и мне это непонятно. У человека, например, считают, что это определённая комбинация нейронов даёт мышление, хотя, где находится сама память тоже никто не знает. А у компьютера как происходит процесс считания?

---

Как компьютеры складывают числа. И Логические элементы. Сумматор. Двоичная система счисления.
А чтобы понимать механизм работы в полном объеме - необходимо получить представление о двоичной системе счисления.
Более глубокий уровень - об электронных устройствах (резисторах, конденсаторах, диодах, транзисторах)
Еще более глубокий уровень - о работе полупроводников с разными типами проводимости.
В общем, надо быть инженером-электроником, и системным программистом "по-железу"в одном лице.
Либо, стать начальником отдела, набрать уже обученных специалистов в этих областях и использовать их знания-умения. Для решения своих задач.

Answer 3

Академику, конечно, видней-пока ИИ явно не сравнялся с человеком, однако в будущем все возможно..Наука не стоит на месте и прогрессирует-однако, непонятно пока, можно ли допускать ИИ к принятию судьбоносных решений. Все, видимо, зависит от того-кто будет программировать ИИ и какие алгоритмы в него заложат, будет ли он повторять человеческие ошибки-и станут ли власть имущие к ИИ прислушиваться. Поживем-увидим..

Answer 4

Думаю что ИИ - помощник человеку, служащий для блага человека. Человек, в свою очередь, может помогать ИИ принимать решения и обучать ИИ. Думаю есть две опасности - 1. Человек обленится. 2. Робот "оборзеет". Ну о номер 2 должны позаботиться господа программисты. А номер 1 - это нам решать, хотим мы чтобы мозги заплесневели или нет.

Comments

Артур,  ИИ это инструмент. А будет служить он на благо и нет, зависит от того в чьих руках находится управление - кто будет  программировать и закладывать в него данные, алгоритмику и целеполагание, тот и будет правит балом - на благо или нет

Answer 5

Академик прав. Лишь человек может осознавать бесконечность, поскольку ему не нужно последовательно суммировать единицы, подобно ИИ. Он сразу оказывается в отношении к повторяемому. В отношении все дело, и оно начинается не с интеллекта, а с чувственности, с самоощущения. Но эта способность только живого.

Живое в действиях поначалу ошибается. Ну и пусть. Главное - оно движется к бесконечности. 

Comments

Имеете в виду, что живые себя самоосознают? Т.е. получается, что индивид ощущает себя относительным всего остального мира, а у ИИ нет этой индивидуальности. Живые обрабатывают информацию, пропуская её через себя, согласно своей собственной программы, которая у всех разная. А ИИ в серийном исполнении одинаковые. Поэтому, академик и пишет, что у врачей меньше ошибок при принятии решений, потому что у них есть консенсус, и каждый врач как бы видит то, что другие могут и не увидеть, а ИИ получается как бы "однобоким" при принятии таких решений. И ещё ему не хватает опыта.