Искусственный Интеллект (ИИ)

[hitthelimit]

Для того, чтобы сразу понять, что термин ИИ не означает нечто совершенно конкретное, достаточно заглянуть на страничку «Интеллект» в Википедии. Если сам интеллект трактуется столь размыто, то что тогда говорить об искусственном интеллекте? Не считать же в самом деле перечисление всего того, что разные исследователи относят к интеллекту, проясняющим моментом.

 

Таким образом, с самого начала имеем примерно ту же самую ситуацию, что и с обсуждением, например, сознания - все та же обманчивая очевидность. Между тем этот вопрос не так уж сложно прояснить.

 

Взгляните на дельфинов, к примеру. Весьма развитый мозг, сложное поведение, большой запас сигналов для коммуникации, высочайшая адаптативность, передача навыков из поколения в поколение, исключительно сложный мозг, наконец (хотя последнее, впрочем, не совсем убедительный довод). Однако, несмотря на огромные усилия энтузиастов и солидных научных заведений, окончательного вердикта относительно разумности дельфинов как не было, так и нет. А ведь чего проще, казалось бы! И ничего создавать не надо, и материала для изучения предостаточно. Одних видов — 30! Самое время спросить: может «в консерватории что-то не так»? А именно, в наших ожиданиях относительно того, что мы готовы назвать интеллектом? Если столь мощная система, какой является мозг дельфина, не считается со всей очевидностью «разумной», значит, самое время определиться, что именно мы создаем под вывеской «ИИ».

 

Как считает Пенроуз в книге, комментарии к которой я привел постом ниже, человеческое понимание отличается тем, что позволяет нам делать некоторые простые на первый взгляд вещи, которые для компьютера пока что являются непреодолимым вызовом. Углубимся в этот момент. Первое, что хочется сказать, так это то, что мы таким образом делаем нечто необходимое нам. С другой стороны, требуя от компьютера этого же действия, мы требуем опять же что-то необходимое нам. Добавив к этому нашему умению свой превилигированный доступ к состоянию, связанному с выполнение данной функции, мы гордо заявляем, что машины — тупая, бездушная, и ни о каком понимании у нее не может даже идти речь. Можно не сомневаться, что с таким подходом мы еще долго будем создавать ИИ. Следуя мысли проф. Преображенского, а не проще ли нарожать?

 

Я полагаю, следует четко определиться с тем, что самое главное на наш взгляд в ИИ. Практически все сойдутся как минимум в одном требовании: ИИ должен выполнять некоторые действия. Нет, это я не пошутил. Ключевое слово здесь - «должен». Собственно, при таком раскладе, тему ИИ можно было бы считать закрытой. Если нам ИИ должен, то это уже никак не интеллект, по крайней мере, таковым мы его никогда не признаем. Что думал рабовладелец о своих рабах? Может показаться, что я передергиваю. В конце концов, ИИ может быть должен демонстрировать независимое мышление, или еще чего-то в этом духе. Увы, и в этом щедром варианте кроется все та же ловушка. Из чего следует, что дельфины не демонстрируют независимого мышления? А ведь они очень индивидуальны! Значит, не хватает чего-то существенного... для нас. Значит, опять кто-то должен нам!

 

Технически, сказанного достаточно, чтобы приступить к выводам.

 

Не существует никакого интеллекта, вообще.

Есть способность систем демонстрировать некоторые действия.

Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.

Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.

 

Допустим, больше всего нас интересует когнитивная способность и способность к эвристической деятельности при решении задач. Но это не так просто — вот так сказать. Необходимы некоторые существенные уточнения. Все уточнения на этот счет сведутся к тому, что речь идет о таковой деятельности... для человека. Видите ли, есть такая физическая система — человек. И шутка заключается в том, что мозг человека работает, как бы это сказать, что б не обидно... не только сам на себя. Строго говоря, уровень автореференции даже у самого продвинутого на этот счет мозга попросту плачевный. То, что мы поднимаем на щит в качестве высшей пробы своей разумности - осознание, понимание, есть не более чем пена на поверхности ментального варева, глубинная суть которого для нас совершенно не доступна. Вывод: интеллект нашего мозга — это интеллект нашего мозга, а вовсе не абстрактный интеллект. Тот факт, что при этом мы имеем математику, сути дела не меняет.

 

Отсюда мораль: любой ИИ, который мы склепаем, будет либо (1) простым набором изощренных программ, работающих с человеческой информационной требухой, либо (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов. Первое уже полным ходом делается, и успехи в этом направлении просто гарантированны. Но это никогда не будет признано ИИ, а только симулятором ИИ. (Я хочу подчеркнуть, что вопрос, будет ли это искусственным интеллектом на самом деле, не имеет смысла). А второе... А дельфины? А оно нам надо? Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом. Тогда напрашивается выход: задать конструкцией и базовым программным обеспечением заведомую близость в ее активном поведении параметрам человеческой психики. Но... тогда мы опять не признаем ее интеллектом, ибо она делает то, что она нам должна, и никому и в голову не придет думать о ее собственных состояниях как о равных человеческим. Повторится история, рассказанная в фильме «Двухсотлетний человек».

 

Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес, но в случае успеха такая система все равно будет зависать, хотя несовершенные модели могут нешуточно доставить падкой на сенсации публике.

 

Comments

[igor-dzhadan.livejournal.com]

==Психогенная сингулярность может наступить раньше, чем создание ИИ второго вида==

- Знаете, не верю я в сингулярности. Актуальные бесконечности - суть плод нашего воображения и результат неполноты наших знаний. Расходимости теории - проблема теории, а не природы, как обычно выясняется. Думаю, что вместо Вашей гипотетической психогенной сингулярности, будет нечто, что представить себе сейчас невозможно. Предполагаю, что никакого безудержного прогресс ИИ вследствие получения доступа к собственному исходному коду не предвидится. Ведь должна быть воля, чтобы что-то менять, а откуда ей взяться? Воля человека - продукт миллиарднолетней эволюции, да и то - она не у всех людей развита, как можно наблюдать.

[hitthelimit.livejournal.com]

Надо полагать, вы не погружались с головой в эту проблему. Для меня это не вера - я вообще ни во что не верю. Есть гипотеза, есть какие-то обоснования. Контрдоводов, увы, вы нигде не найдете. Никто ничего по существу мне пока что не возразил. Это не признак моей правоты, конечно.
Не хочу в духе худших традиций доморощенных форумов отправлять вас читать "мои труды", но в этом журнале приводится довольно много мыслей в поддержку такой гипотезы. И я всегда готов обсуждать это с заинтересованными людьми. Сингулярности - не плод моего воображения, в виде экстремумов функций они проявляются и в реальности, для реальных систем. Это вообще банальность - вечных систем не бывает. Вопрос только в нахождении или предсказании условий, при которых та или иная система достигнет своего предела, в развитии или существовании в целом.

[igor-dzhadan.livejournal.com]

Сингулярности , возникающие в теориях - не есть реальные пределы, поскольку реальность Едина и не имеет никаких реальных частей или пределов. Сингулярности - это предельные условия работы наших представлений, только и всего. То, что Вы пытаетесь назвать "реальными системами", всего лишь наши представления о независимой от нашего разума реальности. И утверждение "вечных систем не бывает" - следует понимать именно так: всякое представление о системе должно иметь граничные временные условия. То есть - в том месте, в котором наши представления дают сингулярность, они просто перестают быть адекватными реальности, вот и всё. На самом же деле ничего катастрофического в точке сингулярности может и не происходить. По мере приближения к ней мы (или кто-нибудь вместо нас) наверняка раздвинем горизонты познаваемого, и "сингулярность" перестанет быть для нас сингулярностью...

[hitthelimit.livejournal.com]

Я надеюсь, мухи и котлеты в последнем посте вы смешали не намеренно.

Вы совершенно правы — системы выделяются произвольно. Но отражение реальности самой себя и тем более коммуникация между людьми есть выражение этого произвола. Это вопрос принятия Существования, не более, ни менее. Если мы пытаемся быть святее папы римского, и настаиваем на том, на чем настаиваете вы, то разговор должен быть прекращен, ибо нет основы для дискурса, так как нет выделения.
Произвольность выделения никак не запрещает операции над ограничениями, в рамках выделения. Когда мы говорим об экстремуме частной функции, никому не приходит в голову сказать, что это чепуха, ибо есть огромное множество других функций, которые не имеют экстремума в этой точке. Я однажды умру, и эта функция, которая пишет сейчас эти слова, уже не будет существовать. Что справедливо для всех выделенных систем. Но если я, живущий, стану третировать состояния жизни и смерти моей системы одинаково, то ее обычная активность станет невозможной уже сейчас. Всякая атемпоральная философия заканчивается там, где мы вспоминаем о философствующем.

Да, я совершенно согласен с вами: «всякое представление о системе должно иметь граничные временные условия». Назовите мою «психогенную сингулярность» (я использовал это название просто по приколу) «граничными условиями» и исследуйте, не имеет ли система «психика человека» граничных условий, таких, за пределами которых эта система не трансформируется в нечто не меньшее по сложности, а просто исчезает. Я предполагаю, что эти условия «зашиты» в смысл выделения системы «психика человека», и их реализация — вопрос достижения определенной точки на оси развития системы. А то, что система психики развивается, является одним их условий выделения.

Таким образом, суть обсуждения, буде такое состоялось бы, сводится к определению списка системобразующих параметров выделения «психики человека».

Я полагаю, что никакие горизонты для нашей психики не развинутся, а с точностю наоборот — наши рациональные носы уткнутся в картонные горизонты мотиваций, тех, что оттачивались на протяжении миллионов лет. О деталях можно говорить аргументированно, но только в случае аргументированного возражения.

[igor-dzhadan.livejournal.com]

==Я полагаю, что никакие горизонты для нашей психики не развинутся, а с точностю наоборот — наши рациональные носы уткнутся в картонные горизонты мотиваций, тех, что оттачивались на протяжении миллионов лет.==

- Я имел в виду не раздвижение горизонтов психики, а раздвижение горизонтов наших представлений о психике. Они-то меняются просто сказочными темпами. Вот и Вы вносите в это свою лепту)