Искусственный Интеллект (ИИ)

[hitthelimit]

Для того, чтобы сразу понять, что термин ИИ не означает нечто совершенно конкретное, достаточно заглянуть на страничку «Интеллект» в Википедии. Если сам интеллект трактуется столь размыто, то что тогда говорить об искусственном интеллекте? Не считать же в самом деле перечисление всего того, что разные исследователи относят к интеллекту, проясняющим моментом.

 

Таким образом, с самого начала имеем примерно ту же самую ситуацию, что и с обсуждением, например, сознания - все та же обманчивая очевидность. Между тем этот вопрос не так уж сложно прояснить.

 

Взгляните на дельфинов, к примеру. Весьма развитый мозг, сложное поведение, большой запас сигналов для коммуникации, высочайшая адаптативность, передача навыков из поколения в поколение, исключительно сложный мозг, наконец (хотя последнее, впрочем, не совсем убедительный довод). Однако, несмотря на огромные усилия энтузиастов и солидных научных заведений, окончательного вердикта относительно разумности дельфинов как не было, так и нет. А ведь чего проще, казалось бы! И ничего создавать не надо, и материала для изучения предостаточно. Одних видов — 30! Самое время спросить: может «в консерватории что-то не так»? А именно, в наших ожиданиях относительно того, что мы готовы назвать интеллектом? Если столь мощная система, какой является мозг дельфина, не считается со всей очевидностью «разумной», значит, самое время определиться, что именно мы создаем под вывеской «ИИ».

 

Как считает Пенроуз в книге, комментарии к которой я привел постом ниже, человеческое понимание отличается тем, что позволяет нам делать некоторые простые на первый взгляд вещи, которые для компьютера пока что являются непреодолимым вызовом. Углубимся в этот момент. Первое, что хочется сказать, так это то, что мы таким образом делаем нечто необходимое нам. С другой стороны, требуя от компьютера этого же действия, мы требуем опять же что-то необходимое нам. Добавив к этому нашему умению свой превилигированный доступ к состоянию, связанному с выполнение данной функции, мы гордо заявляем, что машины — тупая, бездушная, и ни о каком понимании у нее не может даже идти речь. Можно не сомневаться, что с таким подходом мы еще долго будем создавать ИИ. Следуя мысли проф. Преображенского, а не проще ли нарожать?

 

Я полагаю, следует четко определиться с тем, что самое главное на наш взгляд в ИИ. Практически все сойдутся как минимум в одном требовании: ИИ должен выполнять некоторые действия. Нет, это я не пошутил. Ключевое слово здесь - «должен». Собственно, при таком раскладе, тему ИИ можно было бы считать закрытой. Если нам ИИ должен, то это уже никак не интеллект, по крайней мере, таковым мы его никогда не признаем. Что думал рабовладелец о своих рабах? Может показаться, что я передергиваю. В конце концов, ИИ может быть должен демонстрировать независимое мышление, или еще чего-то в этом духе. Увы, и в этом щедром варианте кроется все та же ловушка. Из чего следует, что дельфины не демонстрируют независимого мышления? А ведь они очень индивидуальны! Значит, не хватает чего-то существенного... для нас. Значит, опять кто-то должен нам!

 

Технически, сказанного достаточно, чтобы приступить к выводам.

 

Не существует никакого интеллекта, вообще.

Есть способность систем демонстрировать некоторые действия.

Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.

Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.

 

Допустим, больше всего нас интересует когнитивная способность и способность к эвристической деятельности при решении задач. Но это не так просто — вот так сказать. Необходимы некоторые существенные уточнения. Все уточнения на этот счет сведутся к тому, что речь идет о таковой деятельности... для человека. Видите ли, есть такая физическая система — человек. И шутка заключается в том, что мозг человека работает, как бы это сказать, что б не обидно... не только сам на себя. Строго говоря, уровень автореференции даже у самого продвинутого на этот счет мозга попросту плачевный. То, что мы поднимаем на щит в качестве высшей пробы своей разумности - осознание, понимание, есть не более чем пена на поверхности ментального варева, глубинная суть которого для нас совершенно не доступна. Вывод: интеллект нашего мозга — это интеллект нашего мозга, а вовсе не абстрактный интеллект. Тот факт, что при этом мы имеем математику, сути дела не меняет.

 

Отсюда мораль: любой ИИ, который мы склепаем, будет либо (1) простым набором изощренных программ, работающих с человеческой информационной требухой, либо (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов. Первое уже полным ходом делается, и успехи в этом направлении просто гарантированны. Но это никогда не будет признано ИИ, а только симулятором ИИ. (Я хочу подчеркнуть, что вопрос, будет ли это искусственным интеллектом на самом деле, не имеет смысла). А второе... А дельфины? А оно нам надо? Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом. Тогда напрашивается выход: задать конструкцией и базовым программным обеспечением заведомую близость в ее активном поведении параметрам человеческой психики. Но... тогда мы опять не признаем ее интеллектом, ибо она делает то, что она нам должна, и никому и в голову не придет думать о ее собственных состояниях как о равных человеческим. Повторится история, рассказанная в фильме «Двухсотлетний человек».

 

Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес, но в случае успеха такая система все равно будет зависать, хотя несовершенные модели могут нешуточно доставить падкой на сенсации публике.

 

Comments

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

Жизнь-творец, которая ставит мне задачи - это практичное обясниние, а эволюционная целесообразность качеств мозга - это мистика... Ну взгляните на это трезво. Пожалуйтста!

> Простите, но Вы похоже начитались "психологической литературы"... :(

Ага, это все объясняет... Увы, я не могу здесь увидетно ничего кроме хитрости вашего щита, он вам еще не то подбросит, только бы не дай бог вам не пришло в голову заглянуть за него.
А первую книгу по психологии я прочел неделю назад для прикола. Это был учебник.

> "Неинтроспектируемые установки" и "мощные щиты, блокирующие исследование закрытых углов" - это одно и то же, никакая не мистика, и не "бессознательное", это самые обыкновенные рефлексы ЦНС (мозга).

> Я могу как то изменить Ваше мнение обо мне (о том насколько я себя знаю)? Хотите ли Вы сами его изменить?

Вы кажется сказали, что эмоции вами не руководят. Вам дожно быть глубочайше по барабану мое мнение о вас. Точто так же как мне ваше мнение обо мне. Только при этом условии вы сможете меня понять.

> Я только покажу "альтернативу" (подход к исследованию "бессознательного").

Альтернатива вашей альтернативе:
В первом приближении - мозг - мощная вычислительная машина. Эта машина решает задачи, которые перед ней ставит реальность. В этой машине есть один частный механизм: часть состояний мозга протоколируется мозгом и передается на вторичную обработку. Т.е. часть состояний мозга подлежит наблюдению самим же мозгом.
Если вы спрашиваете человека "о чем ты сейчас думаешь", то он дает отчет именно по этому протоколу. Но основная часть работы мозга не протоколируется и не подлежит самоанализу просто потому, что это было бы слишком затратно.
Работа мозга как правило вертится около этого самонаблюдаюшего механизма, но не сводится к нему.

Т.е. когда вы утверждаете, что у вас нет подсознания, а есть только рефлексы, вы утверждаете, что ваш мозг полностью протоколирует всю мыслительную деятельность, кроме простейших действий типа раздражитель-реакция.

Написал длинный пост, прочитал его вашими глазами и понял, что зря потратил время. Хотел стереть, но жалко работы.

Парадокс марионетки.

[hitthelimit.livejournal.com]

Сорри, не нашел вашего поста со ссылкой, за которую спасибо.
Все это забавно (я просмотрел заключительную часть книги), но мой интерес к конкретике такого рода быстро угасает. Хотя авторы и опасаются делать прогнозы относительно будущего ИИ, направление их мышления у меня вызывает улыбку — ребята явно не философы. Например, рассуждение об увеличении сенсорики объекта с ИИ: кажется, что в этом есть смысл. Но что в пределе? Человек обладает только одним вниманием — мы однопроцессорные системы. Если разделить полушария, мы становимся двухпроцессорными, с двумя вниманиями, но признаем только одно. ИИ со сверхразветвленной сенсорикой и огромным количеством независимо работающих центов восприятия — это один субъект или много независимых? Если его деятельность свести к одному вниманию, то что останется от обработки мультисенсорного потока? Некая куцая выжимка. Но это как раз то, что мы и так имеем в своем организме: у нас суперсенсорика со всего тела, она обрабатывается независимыми автономными центрами, и никогда в полном объеме не воспринимается нашим единственным вниманием. Доходят только иногда жалкие ошметки плохо диференцированного содержания. Так что же в пределе? В пределе то, что уже есть — макро реальность. Вот вам в качестве примера нетривиальность напрашивающихся выводов относительно будущего ИИ. Линейное развитие/прогнозирование не имеет смысла.

Конкретика не имеет значения в нашем движении к сингулярности. Для меня уже очевидно, что это вопрос универсальных принципов, то, что происходит. В последнее время я понял некоторые детальные обстоятельства относительно моего «основного вопроса». По мере продвижения «вперед» этот вопрос для меня обретает все более конкретное очертание. К сожалению, возможность говорить об аспектах понимания стремительно сворачивается, вербализация становится бессильной. Заскочив на астрофорум я пытался обратить ваше внимание на новые аспекты нашей темы, но вы, кажется, меня не поняли.

Вот то, о чем я еще могу говорить относительно внятно.
Макро-системы (любые системы реальности) не имеют внутренней/собственной причинности. Это незамысловатое утверждение в пределе приводит к острой когнитивной ситуации глобального плана. «Основной вопрос» вырождается в парадокс марионетки: мы — марионетки, все, что мы делаем, думаем, понимаем — это результат внешнего управления, с той лишь только разницей, что никто не управляет этими параметрами конкретно (как в ситуации с гипотетическим богом), это результат реализации некоего базового принципа/принципов. В точности, как с КА. Это не вопрос, является ли Вселенная КА, это не имеет значения. Важно, что принцип сохраняется.
Здесь будет уместно вспомнить о пресловутом принципе неполноты замкнутых систем. Оказывается, это шарада того же порядка, что и принцип сознания. Неполнота имеет место при наличии двух систем: подлежащей оценке и оценивающей. Оценивающая при этом должна быть шире (полнее) оцениваемой. Часто говорят о принципиальных ограничениях разума, связанных с неполнотой, следующей из факта включенности нас внутрь реальности. Но такое представление есть не что иное, как неявный перенос дихотомии в область анализа. «Я» стремится к самоформализации для стабилизации, но это иллюзия, нет никакого формального «я», способного привести к выводам о неполноте разума. Нет ничего, что о себе свидетельствует — вот величайший парадокс реальности. Все, что может «наблюдать» психика, разум, все, что я пишу здесь, не есть их функции с явной каузальностью. Причинность, если она вообще существует, в чем у меня нет никакой уверенности, лежит где-то в самом основании всей этой иллюзии, а то, что сама иллюзия называет причинностью — есть иллюзия причинности, точно такая же проекция.
Вот в чем острота «основного вопроса». Но если так, то остается только коллапс. Но коллапс чего? Говорить о психогенной или иной сингулярности (правильнее было бы, видимо, говорить о когнитивной сингулярности), о пределе сложности не совсем корректно — такой дискурс неявно включает в себя каузальность коллапсируемого. Парадокс марионетки — это действительно парадокс, из ряда вон выходящий, это парадокс, который, возможно, указывает на «когнитивную» «черную дыру», к которой мы приближаемся. В терминах КА это, возможно, ограничение на частный параметр локальной конфигурации алгоритма.