Искусственный Интеллект (ИИ)

[hitthelimit]

Для того, чтобы сразу понять, что термин ИИ не означает нечто совершенно конкретное, достаточно заглянуть на страничку «Интеллект» в Википедии. Если сам интеллект трактуется столь размыто, то что тогда говорить об искусственном интеллекте? Не считать же в самом деле перечисление всего того, что разные исследователи относят к интеллекту, проясняющим моментом.

 

Таким образом, с самого начала имеем примерно ту же самую ситуацию, что и с обсуждением, например, сознания - все та же обманчивая очевидность. Между тем этот вопрос не так уж сложно прояснить.

 

Взгляните на дельфинов, к примеру. Весьма развитый мозг, сложное поведение, большой запас сигналов для коммуникации, высочайшая адаптативность, передача навыков из поколения в поколение, исключительно сложный мозг, наконец (хотя последнее, впрочем, не совсем убедительный довод). Однако, несмотря на огромные усилия энтузиастов и солидных научных заведений, окончательного вердикта относительно разумности дельфинов как не было, так и нет. А ведь чего проще, казалось бы! И ничего создавать не надо, и материала для изучения предостаточно. Одних видов — 30! Самое время спросить: может «в консерватории что-то не так»? А именно, в наших ожиданиях относительно того, что мы готовы назвать интеллектом? Если столь мощная система, какой является мозг дельфина, не считается со всей очевидностью «разумной», значит, самое время определиться, что именно мы создаем под вывеской «ИИ».

 

Как считает Пенроуз в книге, комментарии к которой я привел постом ниже, человеческое понимание отличается тем, что позволяет нам делать некоторые простые на первый взгляд вещи, которые для компьютера пока что являются непреодолимым вызовом. Углубимся в этот момент. Первое, что хочется сказать, так это то, что мы таким образом делаем нечто необходимое нам. С другой стороны, требуя от компьютера этого же действия, мы требуем опять же что-то необходимое нам. Добавив к этому нашему умению свой превилигированный доступ к состоянию, связанному с выполнение данной функции, мы гордо заявляем, что машины — тупая, бездушная, и ни о каком понимании у нее не может даже идти речь. Можно не сомневаться, что с таким подходом мы еще долго будем создавать ИИ. Следуя мысли проф. Преображенского, а не проще ли нарожать?

 

Я полагаю, следует четко определиться с тем, что самое главное на наш взгляд в ИИ. Практически все сойдутся как минимум в одном требовании: ИИ должен выполнять некоторые действия. Нет, это я не пошутил. Ключевое слово здесь - «должен». Собственно, при таком раскладе, тему ИИ можно было бы считать закрытой. Если нам ИИ должен, то это уже никак не интеллект, по крайней мере, таковым мы его никогда не признаем. Что думал рабовладелец о своих рабах? Может показаться, что я передергиваю. В конце концов, ИИ может быть должен демонстрировать независимое мышление, или еще чего-то в этом духе. Увы, и в этом щедром варианте кроется все та же ловушка. Из чего следует, что дельфины не демонстрируют независимого мышления? А ведь они очень индивидуальны! Значит, не хватает чего-то существенного... для нас. Значит, опять кто-то должен нам!

 

Технически, сказанного достаточно, чтобы приступить к выводам.

 

Не существует никакого интеллекта, вообще.

Есть способность систем демонстрировать некоторые действия.

Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.

Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.

 

Допустим, больше всего нас интересует когнитивная способность и способность к эвристической деятельности при решении задач. Но это не так просто — вот так сказать. Необходимы некоторые существенные уточнения. Все уточнения на этот счет сведутся к тому, что речь идет о таковой деятельности... для человека. Видите ли, есть такая физическая система — человек. И шутка заключается в том, что мозг человека работает, как бы это сказать, что б не обидно... не только сам на себя. Строго говоря, уровень автореференции даже у самого продвинутого на этот счет мозга попросту плачевный. То, что мы поднимаем на щит в качестве высшей пробы своей разумности - осознание, понимание, есть не более чем пена на поверхности ментального варева, глубинная суть которого для нас совершенно не доступна. Вывод: интеллект нашего мозга — это интеллект нашего мозга, а вовсе не абстрактный интеллект. Тот факт, что при этом мы имеем математику, сути дела не меняет.

 

Отсюда мораль: любой ИИ, который мы склепаем, будет либо (1) простым набором изощренных программ, работающих с человеческой информационной требухой, либо (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов. Первое уже полным ходом делается, и успехи в этом направлении просто гарантированны. Но это никогда не будет признано ИИ, а только симулятором ИИ. (Я хочу подчеркнуть, что вопрос, будет ли это искусственным интеллектом на самом деле, не имеет смысла). А второе... А дельфины? А оно нам надо? Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом. Тогда напрашивается выход: задать конструкцией и базовым программным обеспечением заведомую близость в ее активном поведении параметрам человеческой психики. Но... тогда мы опять не признаем ее интеллектом, ибо она делает то, что она нам должна, и никому и в голову не придет думать о ее собственных состояниях как о равных человеческим. Повторится история, рассказанная в фильме «Двухсотлетний человек».

 

Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес, но в случае успеха такая система все равно будет зависать, хотя несовершенные модели могут нешуточно доставить падкой на сенсации публике.

 

Comments

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> А вы видели много людей, которые до чего-то додумались сами?

Да, Вас например. Вы же "додумались сами" мне ответить? :)
Я не видел ни одного даже "умалишенного", который хоть до чего-нибудь не додумался бы сам (хоть бы и до того, что он = Наполеон). И не видел ни одной улитки, которая сама бы не додумалась, как добраться до собачьих фекалий в детской песочнице.

> Ваша фраза - субъективная идеализация ситуации в чистом виде.

На чем основан Ваш вывод, поясните пожалуйста.

> В первом приближении, мозг человека принимает информацию, обучается предсказывать последующие патерны входящей информации по предыдущим, имеет изначально заложенные алгоритмы, выполняющие расчет целевых функций и ведет постоянный вычислительный процесс по подготовке программ действий для каждой возможной ситуации, позволяющих достигать максимума целевых функций. Что в этом мистического?
Только то, что в этой схеме мы знаем как реализовать только часть компонентов. Ну так не все сразу.

Мистика - в "предсказаниях".
Предсказывают только мистификаторы (гадалки, пророки, астрологи и т.п.), нормальные (в "мистическом" смысле) люди - ставят себе задачу и разрабатывают план ее выполнения на основе известных им закономерностей (которые Вами же далее и описаны), т.е. накопленного "опыта". Я, например, "предсказаниями" не пользуюсь и мне это не мешает ничуть (так даже жить интереснее, без них). При автоматизации любой фирмы так или иначе решаю задачу планирования, Вам подсказать как ее запрограммировать?
Я не наблюдаю в описанной Вами "алгоритмической схеме интеллекта" ничего, что хороший программист не смог бы реализовать прямо сегодня (кроме реально мистических "предсказаний", но их можно заменить на "разумное планирование" и "целеуказание"). Что Вам мешает запрограммировать ИИ (Вам подсказать, как можно запрограммировать то, что Вы описали)???

Есть более простой пример - музыка и стихи.
Люди умеют создавать и то и другое, причем стихи пишут почти все, а музыку - лишь немногие (пусть и посредственно в массе случаев). Компьютерную музыку Вы сами, уверен, слышали неоднократно (не особо весть что, но слушать можно, а некоторые даже "тащатся" от нее). Почему нет компьютерных стихов? Вы не пробовали написать программу для стихов? :)
А в чем столь непреодолимая разница между музыкой и стихами (не задавались таким вопросом)?
- Я задавался и анализировал... Когда человек слушает музыку, то смыслы и эмоции в нее он вкладывает сам (один представляет море, другой - лес, третий - давку в метро и т.п.), а вот в стихи смысл и эмоции должен вложить автор... Попробуйте написать прог. и... увидите воочию ту непреодолимую пропасть (зримую мной), которую нужно преодолеть "создателям ИИ" (как раз то, чего в Вашей "схеме" не отражено, увы). Это не так трудно, как на первый взгляд кажется...

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Да, Вас например. Вы же "додумались сами" мне ответить? :)
> Я не видел ни одного даже "умалишенного", который хоть до чего-нибудь не додумался бы сам (хоть бы и до того, что он = Наполеон). И не видел ни одной улитки, которая сама бы не додумалась, как добраться до собачьих фекалий в детской песочнице.

Никто не может нидочего додуматься. Мы можем только чуть-чуть улучшать способность имитации мира на основании новой информации и тривиальным образом корректировать свои программы поведения.

Давайте конкретнее. Обезъяну учат тушить костер набирая воду в колодце. Обезъяну садят на плот и зажигают костер на плоту. Обезъяна плывет к колодцу за водой...
Разве она ведет себя "разумно"? Нет, она ведет себя как запрограммированный автомат.
Другой пример: обезъяне дают ящик и палку. Нужно воспользоваться ими чтобы сбить банан. Простейшая задача. Решает она эту задачу? Только если это очень умная обезъяна и только если у нее уже были навыки использования предметов (т.е. если мозгу оставалось только чуть чуть подкорректировать уже имеющуюся программу). Это Обезьяна с миллиардами нейронов, без миллиона лет эволюции человек.
Вы ожидаете, что алгоритм, который мы написали на колене от лампочки сразу решил бы эти задачи? Это несерьезно.

> И не видел ни одной улитки, которая сама бы не додумалась, как добраться до собачьих фекалий в детской песочнице.

Поведение улитки шаблонно и генетически прошито.
Вы считаете, что нельзя создать робота, который искал бы феклии в песочнице? Хороший коллектив специалистов, лет 20 работы и они выдадут нечто похожее. Ну и эволюция искала алгоритм для улитки миллиард лет.

> Предсказывают только мистификаторы (гадалки, пророки, астрологи и т.п.), нормальные (в "мистическом" смысле) люди - ставят себе задачу и разрабатывают план ее выполнения на основе известных им закономерностей (которые Вами же далее и описаны), т.е. накопленного "опыта".

Постановка задачи и план - это скорее шум от работы машины, нежели работа.
Вся работа выполняется в подсознании. Нейронная сеть мозга способна по начальным условиям генерировать картину развития событий без всякого планирования. Не этим ли она занимается во сне? Все, что ей остается для решения задачи - сгенерировать серию вариантов развития событий и отобрать вариант с наибольшим значением целевой функции. Детали этого процесса не сохраняются в памяти и следовательно не осознаются. Они просто не нужны. Пока вы занимаетесь планированием и постановкой задачи мозг занимается как раз тем, что я написал. Когда он готов - решение само всплывает в вашем сознании из неоткуда. Разве не так?
Вам не кажется, что простой перебор нескольких вариантов может дать решение, которое выглядело бы осмысленным? А он и не дает, см. примеры с обезъяной :).
Вся наша хваленая разумность заключается в способности сделать шаг на миллиметр от уже имеющегося стереотипа поведения и то только в благоприятных условиях.

> Есть более простой пример - музыка и стихи.

Куда уж проще :). Я бы сперва решил вопросы типа банана.

Хотя, со стихами тоже особой мистики я не вижу. Понятно, что некоторые патерны входной информации оказывают на мозг стимулирующее воздействие. Почему - это преждевременный вопрос. Мозг некоторых людей способен выполнять работу по подбору таких патернов - эти и есть творческие личности. Это скажем так, самая верхушка загадки интеллекта. Я бы туда не лез.

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Я не наблюдаю в описанной Вами "алгоритмической схеме интеллекта" ничего, что хороший программист не смог бы реализовать прямо сегодня (кроме реально мистических "предсказаний", но их можно заменить на "разумное планирование" и "целеуказание"). Что Вам мешает запрограммировать ИИ (Вам подсказать, как можно запрограммировать то, что Вы описали)???

Почему не видите? Обычная нейронная сеть способна обучаться предсказанию недостающей части массива информации по заданной входной части. Разве это не предсказание будущего развития событий? Как этот процесс сделать стабильным во времени? Не знаю. Как добиться, чтобы распознавались сложные образы а не банальная экстраполяция? Очень изощренным подбором алгоритма. Вы почитайте как устроен мозг. В нем есть центры для распознания горизонтальных полосок и т.д. Это не так просто - это миллиар лет эволюции.

Расчет целевой функции - это не сложно. Достаточно принять в качестве ЦФ раздражение определенных нервов.

Отбор программ? Берем начальный запрограммированный набор программ действий, которые инициируются при распознавании нейронной сетью определенных ситуаций.
Далее, организуем эволюционный отбор этих программ с мутациями, скрещиванием похожих и порождением новых. Получаем постепенное развитие списка программ по мере решения задач. Каждая программа периодически обкатывается в подсознании на герерированной реальности. Плохое решение задач заставляет программу более активно модифицироваться и чаще опробоваться. Кроме того, программа обрабатывается чаще, если она чаще используется.

То, что я описал не будет работать? Конечно не будет :).
Мы еще не понимаем множество принципов с которыми надо разобраться и которые могут сделать подобную систему устойчивой и эффективной.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

Вы похоже не поняли меня... Я говорил, что в Вашей "схеме" ИИ я не вижу ничего, что нельзя было бы запрограммировать.
Ну да, "нейронная сеть" (живая, в мозгу) может решать задачи при неполноте уловий и инфы для "правильного" решения. Это я вижу...
Я не вижу КАК она это делает (чтобы повторить в ИИ). Разницу понимаете?
Одни гипотезы... Я читаю, причем вот такие "книжки": http://planeta.rambler.ru/community/keorlin/132331367.html?reply=1&parent_id=132393985#comment
И там ничего такого нет, что так уверенно излагаете Вы... Ведущие ученые мира (всю жизнь изучавшие работу ЦНС) разводят руками - "мы не знаем как оно работает", а Вы знаете, это удивляет, как минимум...

> Расчет целевой функции - это не сложно. Достаточно принять в качестве ЦФ раздражение определенных нервов.

Мы говорим об ИИ. Как обучить ребенка я знаю не по наслышке (опыт имею), причем без "раздражения определенных нервов" (я не садист).

> Отбор программ? Берем начальный запрограммированный набор программ действий, которые...

Вы попробуйте, ну хоть один раз... Я то пробовал почти 20 лет и отчаялся. Может быть у Вас получится? - Я ж "до небес подпрыгну" от радости... Гипотезами и теориями сыт по горло (либо они "нерабочие", либо я тупой, но неужели все тупые, ведь не один я мучался?)... :(

> Мы еще не понимаем множество принципов с которыми надо разобраться...

Каких Вы не понимаете? - Назовите хоть один, я постараюсь помочь понять (зря что ли 20 лет х..й страдал?)...

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Ну да, "нейронная сеть" (живая, в мозгу) может решать задачи при неполноте уловий и инфы для "правильного" решения.

Я и имел ввиду алгоритмическую реализацию нейронной сети. Элементарные задачи предсказания такие сети решают. Вопрос - как перейти к более сложным задачам.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

Простите, я Вас не понимаю...
- Что значит "алгоритмическая реализация"? - Как работает мозг? - Этого не знает сейчас никто, мало того, у ведущих исследователей "кончились идеи", как описать "алгоритмы мозга"...
Причем речь идет о простейших реакциях типа - Ответов на простейшие вопросы (Вы мужчина?), обработки ассоциаций (Что нарисовано на картинке?), арифметического счета (Сколько будет два плюс три?) и т.п. Исследований и информации просто море, а объянений, увы, нет... :(

Я простите, не знаю что такое "предсказание" (для меня это голимая мистика), может быть Вы о "прогнозах" (вполне научных) говорите?

Это не "сети", это так называемые "экспертные системы" (и они прогнозируют вполне научно, а не "пердсказывают"). Но они построены по "первому виду" ИИ (в классификации автора поста), т.е. "делающие необходимое человеку" (это хоть и трудоемко, но банально).

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> Никто не может нидочего додуматься. Мы можем только чуть-чуть улучшать способность имитации мира на основании новой информации и тривиальным образом корректировать свои программы поведения.

Пока вижу лишь гипотезу. В ней мне многое не понятно (вывод в начале опускаю, ибо вывод не может быть исходной посылкой - иначе гарантировано зацикливание):
- Что Вас сподвигло ответить (из Вами перечисленных "возможностей")? Может быть "эмоции"?
- Вы "имитируете мир", т.е. полагаете себя не человеком, а всей Вселенной? Или не удачно написали - "отражаете мир" (тогда в чем и чем "отражаете" не ясно)?
- Информация штука "тонкая", все зависит от "кочки зрения" (для одних мир - это только информация, для других - мир это хаотическая свалка, на которой можно найти инфу, "пропустив ощущения через себя", для третьих - мир это упорядоченный самой информацией склад информации в котором можно выделить инфу "пропустив ощущения через себя", для иных - мир есть иллюзия, ибо вся информация уже присутствует во мне изначально, но не вся мной "открыта" и т.п.). Поясните, пожалуйста, что для Вас мир, и как и откуда Вы получаете "новую информацию"?
Мое "предсказание": - скоро мы с Вами дойдем до места где Куайн У.В.О. сделал страшную ошибку в своих построениях: http://sprach-insel.com/index.php?option=com_content&task=view&id=127&Itemid=61 (не читали?).

> Вы считаете, что нельзя создать робота, который искал бы феклии в песочнице?
Можно и даже за пару месяцев, но ведь улитка ищет не только фекалии и не только в песочнице, а бывает и уходит от песочницы, где много "вкусных фекалий" (например, если ожидает жару днем). У нас много "роботов ищущих фекалии" уже создано (газоанализаторы, например), но нет ни одного, который делал бы это "осмысленно" и самостоятельно (как улитка).

> Откуда Вам известно о том, как работает мозг? Я вот только "отрывочные данные" имею, бессвязные о его работе. Ученые изучающие его работу всю жизнь - тоже "разводят руками"... :(
Что такое "сон" и зачем он нужен - тоже одни голые гипотезы, при проверке не подтверждающиеся "с пол пинка"...
Все "решения" которые я принимаю или нет всегда знаю как и на основе чего получены. Эмоции служат мне, а не я им (у меня "бессознательного" нет, но есть рефлекторика). К сожалению от этого пострадала "интуиция" (частично).

> Вам не кажется, что простой перебор нескольких вариантов может дать решение, которое выглядело бы осмысленным? А он и не дает, см. примеры с обезъяной :)

- Нет не даст, ибо вопрос не в количестве "вариантов" или "переборе", а в том КАК выбрать из них "лучший" и на основе чего?
Так эти Ваши примеры - хорошая иллюстрация к тому, что я писал в первом комментарии - к бессмысленной постановке задачи эксперимента. Обезьяну учили заливать огонь водой из колодца? Научили? Чем не довольны?
- Сдался ей этот огонь, она наверняка не поняла зачем ей его тушить, да еще и из колодца обязательно...
А зачем обезьяне "ящик и палка", когда ей проще залезть на пальму и там в безопасности трескать бананы?
Хотите я вам точно такие же примеры приведу среди людей (из "армейского быта", например)?

Да вроде бы нет в написании стихов никакой "мистики", они требуют "смысла", а как его "запрограммировать" - это уже реально мистика (Вам хотя-бы дефиниция смысла известна?)!

> Понятно, что некоторые патерны входной информации оказывают на мозг стимулирующее воздействие...

Так это и есть "главный вопрос" - почему одни "патерны стимулируют", а другие нет (а Вы его "шашкой на лихом коне"). Вы хоть пытались это понять (хоть бы и "интроспекцией")?

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Можно и даже за пару месяцев, но ведь улитка ищет не только фекалии и не только в песочнице, а бывает и уходит от песочницы, где много "вкусных фекалий" (например, если ожидает жару днем). У нас много "роботов ищущих фекалии" уже создано (газоанализаторы, например), но нет ни одного, который делал бы это "осмысленно" и самостоятельно (как улитка).

Что тут странного? Алгоритм подбирается эволюцией миллиард лет биллионами проб и ошибок. Вы желаете его переплюнуть, естесственно нужно поднапрячься и пердусмотреть все. И даже это гарантирует результат. Представьте, что вы запустили на миллиард лет сверх-супер компьютер, который используя некий очень удачный вариант генетического алгоритма (каковым является ситсема ДНК-РНК-белки...) сформировал наилучшую стратегию поведения улитки. Потом мы пытаемся здесь и сейчас найти решение не хуже просто усилием ума. Ничего странного, что ваш алгоритм будет не так хорош.
Но улитка - это неинтересно. Интересны когнитивные способности, присутствующие у более сложных животных.

> Все "решения" которые я принимаю или нет всегда знаю как и на основе чего получены. Эмоции служат мне, а не я им ...

Вот. При таком подходе к делу вы будете еще 500 лет создавать ИИ. По той простой причине, что вы задаетесь целью создать то, чего не существует в природе: существо, которое имеет свободу воли, принимает решение САМО и знает как оно их принимает. Т.е. господа бога а не ИИ. Ну а с эмоциями я вообще пацталом :). Эмоции служат вам для достиженива ваших целей. А цели вы где взяли?
Такой подход - антинаучная ересь, ведущая в никуда. Первым это понял наверно еще Демокрит (вещи типа не сладкие не соленые, а есть только пустота и атомы...).
Все успехи в науке связаны с прозрениями в направлении в котором указал демоктит, т.е. в искоренении навязчивой, как правило неосознанной, субъективной составляющей из мировоззрения.

> Так эти Ваши примеры - хорошая иллюстрация к тому, что я писал в первом комментарии - к бессмысленной постановке задачи эксперимента. Обезьяну учили заливать огонь водой из колодца? Научили? Чем не довольны?
- Сдался ей этот огонь, она наверняка не поняла зачем ей его тушить, да еще и из колодца обязательно...

Ато, если бы он ей зад подпаливал, то она сразу бы и доперла что делать - прыгала бы и кричала, а про ведро бы и не вспомнила.
Про миллиционера анекдот знаете? Ему дали ящик банан и палку, а он начал трясти дерево. Ему говорят "подумай", а он говорит - чего тут думать - трясти надо. Скажете это нереальная анекдотическая ситуация? Сколько раз мы с ней сталкиваемся ежедневно? Генерация новой модели поведения на пустом месте - это высший пилотаж для мозга. Обычно все ограничивается небольшой коррекцией прогрмм действия, которые отработаны 1000 раз.
Нейронная сеть мозга способна отражать очень сложные вещи. Это да. Но РАЗУМОЕ ПОВЕДЕНИЕ - это скорее самый пик достижения эволюции, нежели базовое свойство. Требовать от ИИ того, что нам самим удается с трудом (разумного поведения) на первых же этапах его создания - бессмысленно и лицемерно.

> Да вроде бы нет в написании стихов никакой "мистики", они требуют "смысла", а как его "запрограммировать" - это уже реально мистика (Вам хотя-бы дефиниция смысла известна?)!

Нет в природе такой вещи как смысл. Есть субъективное переживание смысла, но это вопрос философии а не программирования.


Попытаюсь резюмировать...

Допустим, вы наблюдаюте облака во время заката. В реальности есть атмосферные потоки разной температуры и влажности, пичудливо перемешивающиеся и играющие в лучах солнца. В итоге может возникнуть потрясающей красоты картина. Допустим вы задаетесь целью создать нечто подобное программно.
По логике, вам нужно моделировать движение атмосферных потоков и рендерить прохождение лучей света.
Но вы не желаете так действовать. Вы требуете, чтобы программист программировал не потоки воздуха а саму КРАСОТУ.
Т.е. ваше субъективное переживание от созерцания этой картины.
На деле, если модель будет достаточно точной, субъективное переживание появится само.

Re: Интеллект, ИИ и самообман

[dralkin.livejournal.com]

Жаркий у Вас разговор.
А почему Вы про решето не хотите ответить? Хороший вопрос же!

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

Так я уже приводил ответ. Интеллектом обладает объект, который способен реагировать на окружающие события похоже на то, как это делаю я. "Похоже" с моей точки зрения :).

Т.е. в идеале критерии могут быть только субъективными.

Но для того, чтобы создавать ИИ нам нужны объективные критерии.
Тогда нам нужно вырабатывать объективный взгляд на самих себя и реализовывать в ИИ те аспекты нашего поведения, которые с точки зрения этого взгляда кажутся наиболее существенными.
Иными словами, действовать наугад, вслепую, но не обольщаясь иллюзиями на свой счет.

Один из постейших объективных критериев - эффективное решение ИИ неких поведенческих задач.
Задачи мы будем отбирать субъективно, но тут никуда не денешься, ибо цель сугубо субъективна.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

Про Нью-Васюки уже выше написал...

> Но улитка - это неинтересно. Интересны когнитивные способности, присутствующие у более сложных животных.

А чем пчелы не устраивают (одна из групп биологов в России изучает), или "язык кальмаров" (две группы, одна из них из США)? :)

> 500 лет...Эмоции служат вам для достиженива ваших целей. А цели вы где взяли?

Я столько не проживу, помилуйте...
Есть восточная мудрость - "Мудрец никогда не скажет - я поставил себе цель". Разумный человек "ставит задачи", а "обыватель" - "преследует цели". Эмоции служат моему разуму, а не целям.

> ...Обычно все ограничивается небольшой коррекцией прогрмм действия...

Это не анекдот, можно почитать реальные протоколы и объяснительные - "...убегая от преступника сделал три выстрела задом...". А остальное Вы уже писали. Это видимо Ваша вера, вера "в торжество материалистической науки"?

> Нет в природе такой вещи как смысл. Есть субъективное переживание смысла, но это вопрос философии а не программирования.

Простите, но что такое "смысл" неплохо представляю, только высказать не могу... А вот что такое "субъективное переживание смысла" для меня более чем загадка, ибо смысл не объект, а сам что-то типа "переживания"...

"Красота" сугубо субъективна, это не удачный пример. Хотя в целом Вашу мысль вроде бы понял. - Вы подозреваете что я "гоняюсь за химерами" (решаю задачу в бессмысленной постановке)?
Покажите, если не затруднит, в чем Вы узрели (конкретно) бессмысленность (хотя бы как я Вам на примере обезьяны и костра). Сможете (напрямую, без аналогий)?

Извините, отвечу завтра... Нужно выспаться. :)

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Есть восточная мудрость - "Мудрец никогда не скажет - я поставил себе цель". Разумный человек "ставит задачи", а "обыватель" - "преследует цели". Эмоции служат моему разуму, а не целям.

Когда разум ставит задачи как он определяет какая задача будет следующей?

> Вы подозреваете что я "гоняюсь за химерами" (решаю задачу в бессмысленной постановке)?

Как бы это объяснить кратко... Невозможно дать иную формулировку что такое ИИ, кроме той о которой я писал: ИИ - это нечто, похожее на меня.
Тогда, если я хочу создать ИИ, я должен реализовать для начала нечто наипростейшее из того, что чуть-чуть похоже на меня, а затем постепенно приближаться.
Значит, работа по созданию ИИ будет идти у создателя тем эффективнее, чем более трезвый взгляд на себя самого он имеет.

И вот тут начинаются психологические проблемы. Психика человека склонна очень эффективна обманывать себя саму, генерируя неинтроспектируемые установки, назначение которых - поддержание психики в равновестном состоянии. Эти установки искуссно замаскированы и защищены мощными щитами, блокирующими исследование закрытых углов. Эвлюционно это оправдано: лучше, чтобы вы чего-то не поняли, чем впали в ступор от противоречивых установок, нарушающих психическое равновсие и были съедены.
Но щиты не всегда непроницаемы, если есть твердое намерение видеть правду какой бы она не была.
Может я и молод, но даже мне видно, что вы не знаете самого себя. Тогда при попытке создать ИИ вы неминуемо будете пытаться создать нечто несуществующее.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> Когда разум ставит задачи как он определяет какая задача будет следующей?

Простите, я не понял (придется "растечься мыслью по древу"). Нет, не сам вопрос, а его отношение к "контексту" (и жизни и беседы).
Вижу 2 основных варианта.
1-й абстрактный (внеконтекстный, как и написано Вами), отвечаю:
Все задачи, кроме самых элементарных решаются "в несколько действий". Сначала строится поэтапный план решения большой задачи (задача разбивается на последовательность элементарных задач). Затем каждая задача решается в этой последовательности. Если в результате решения одной из "подзадач" полученный результат не позволяет продолжить последовательность дальше (отличается от прогнозируемого), то либо эта "подзадача" решается иначе, или дальнейший план корректируется. После достижения устраивающего нас результата большой задачи мы ждемс, когда новую задачу поставит перед нами наш Творец - Жизнь (точно также как автомобиль ждет когда вернется водитель).
2-й предполагаемый мной (в контексте обсуждения "эмоций"), отвечаю:
Обычно задачи человеку ставят два источника: 1-й - сама жизнь (см. ответ 1), 2-й - его эмоции: хочу, я вам докажу (эгоизм), не сметь мое ИМХО ругать (гнев) и т.п.
Возможно Вы полагаете (задав вопрос), что я забыл о 2-м источнике? - Нет, не забыл, я говорил о себе, именно о том, что мои эмоции мной не управляют (не смеют мне ставить задач).


> Невозможно дать иную формулировку что такое ИИ, кроме той о которой я писал: ИИ - это нечто, похожее на меня.

На мой взгляд это как раз бессмысленная постановка задачи. Во-первых, ввиду принципиальной невозможности ее выполнения - мертвое (ИИ) никогда не будет равно живому (Вам). Во-вторых, зачем? - Не проще ли по совету Преображенского и автора поста - "нарожать"?
Именно поэтому (чтобы избежать бессмысленности постановки задачи "копирования") я переформулировал задачу создания ИИ "второго рода": создать самостоятельный ИИ, который умеет ставить задачи (инициированные Жизнью и/или человеком), грамотно их решать, анализировать ход и результаты решения (приобретать и использовать полученный опыт) и "выдавать на гора" (сообщать своему творцу-челвоеку) обработанные результаты. Например, такой ИИ был бы очень полезным при исследованиях в услових опасных для жизни человека (планеты Венера, например), или для сумасшедших вояк и политиков, - пусть бы они играли "в солдатиков" не живыми людьми, а роботами с ИИ (как любители компьютерных игр), люди были бы целы и волки сыты. Или есть области деятельности в которых не только не нужно участие живого разума (укладка шпал, горнодобыча в шахтах и т.п.), но порой и опасно, был бы ИИ, способный их решать без участия человека, разве это было бы не здорово?

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> Психика человека склонна очень эффективна обманывать себя саму, генерируя неинтроспектируемые установки, назначение которых - поддержание психики в равновестном состоянии. Эти установки искуссно замаскированы и защищены мощными щитами, блокирующими исследование закрытых углов. Эвлюционно это оправдано: лучше, чтобы вы чего-то не поняли, чем впали в ступор от противоречивых установок, нарушающих психическое равновсие и были съедены....

Простите, но Вы похоже начитались "психологической литературы"... :(
Проф. Преображенский кроме "не проще ли нарожать", дал еще ценный совет - "в печку их!" (речь шла о личной переписке Энгельса с Каутским, которую какой-то осел "обнародовал", в качестве "учебной литературы"). Точно так же и психо-логи ("спецы" по изучению "души"), наличие этой души отвергающие (что они тогда исследуют???), поэтому, возможно, всё, что не могут объяснить рационально, сваливающие в одну большую "помойку" - "бессознательное", хотя именно его-то и должны были бы изучать вроде бы.
Я только покажу "альтернативу" (подход к исследованию "бессознательного").
"Неинтроспектируемые установки" и "мощные щиты, блокирующие исследование закрытых углов" - это одно и то же, никакая не мистика, и не "бессознательное", это самые обыкновенные рефлексы ЦНС (мозга).
Дело в том, что любой рефлекс - это зацикливание ума (по типу - "кнопка - пища" и/или "что первично, курица или яйцо?"). Это результат некоего процесса "обучения", приводящий к формированию привычки - жесткой взаимосвязи "раздражителя" и ответа на него организма. Осознать рефлекс невозможно в принципе, потому что одна и та же привычка может быть получена многими путями, а в сформированном состоянии она не содержит своей "истории" (причинных связей, ее породивших). Это просто "замкнутый круг", который можно разорвать, но исследовать нельзя никак. Например фашисты во время войны очень успешно лечили заикание электрошоком (садитсты конечно). Работа мозга для нас - черный ящик похоже именно потому, что он на 100% рефлекторен. Но никто не мешает его исследовать по давно известному принципу - подачей на "вход" комбинаций "раздражителей" и съемом с "выхода" результата (реакции на них ЦНС), с последующим анализом возможной "схемы", которая могла бы при таком "входе", породить такой "выход" (мы любые "черные ящики" именно так и исследуем).
Любой человек (я в том числе) не менее 99% действий осуществляет рефлекторно (не задумываясь над ними) - куда и как поставить ногу при ходьбе, или как произнести звук "А" или написать букву "А", например.
Рефлексы же бывают двух "видов" - приобретаемые неосознанно (сама обстановка или другие люди формируют в нас привычки) и осознанно - например, учимся ходить, водить машину, ездить на велосипеде и т.п. Одни из них передаются из поколения в поколение "общественным путем" (по наследству, в том числе "культура", "идеи", "язык" и т.п.), а другие чисто индивидуальные (ковыряние пальцем в носу, кусание ногтей, "распускание рук" когда кто-то или что-то "не нравится" и т.п.). Их все можно исследовать, было бы желание...

> Эвлюционно это оправдано: лучше, чтобы вы чего-то не поняли, чем впали в ступор от противоречивых установок, нарушающих психическое равновсие и были съедены

Ну прямо вижу в Ваших словах "Эволюцию" в качестве "умного дядьки с нимбом на макушке", очень предусмотрительного, всезнающего, заботящегося о своих "тварях" (не рефлекс ли это, во всем видеть "руку творца" - в уповании на силы науки, силы природы, на миллиарды лет Эволюции и т.п.?)... :)
Зачем эта мистика, если все можно объяснить куда более прозаически и естественно. Тем более среди рефлексов немало тех, которые не помогают, а мешают жить счастливо и долго (особенно среди "общественных", передаваемых из поколения в поколение).

> ...но даже мне видно, что вы не знаете самого себя. Тогда при попытке создать ИИ вы неминуемо будете пытаться создать нечто несуществующее.

Я могу как то изменить Ваше мнение обо мне (о том насколько я себя знаю)? Хотите ли Вы сами его изменить?
- Если "да", то скажите, пожалуйста, чем и как мне этому поспособствовать (для меня механизм формирования Ваших мнений почти "черный ящик", а Вы, возможно, знаете его получше). :)

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

уххх... Вы говорите, что чувства не руководят вами. Т.е. у вас имеется определенная самодисциплина и научная объективность. Это замечательные качества и именно их я вам и предложил бы напрячь.

> После достижения устраивающего нас результата большой задачи мы ждемс, когда новую задачу поставит перед нами наш Творец - Жизнь (точно также как автомобиль ждет когда вернется водитель).

Смотрите, я отвечаю на вопрос так: "я действую так а не иначе потому, что мой мозг так запрограммирован". Это очень простой и ясный ответ. Часть из этой программы я могу интроспектировать и воспринимать как осознаваемые мотивации (голод, половой инстинкт, желание преуспеть в жизни и т.д.), другую часть я интроспектировать могу с трудом или не могу вовсе.

Вы в замен предлагаете считать, что я действую подчиняясь "задачам, которые мне ставит Жизнь точто так же как автомобиль ждет хозяина".
Вам не кажется, что за вашей формулировкой стоит образ, смысл которого вы и сами не сможете толком объяснить? Тогда почему вы уверены, что этот образ имеет отношение к истине, а является тем самым щитом?

> Обычно задачи человеку ставят два источника: 1-й - сама жизнь (см. ответ 1), 2-й - его эмоции: хочу, я вам докажу (эгоизм), не сметь мое ИМХО ругать (гнев) и т.п.
> Возможно Вы полагаете (задав вопрос), что я забыл о 2-м источнике? - Нет, не забыл, я говорил о себе, именно о том, что мои эмоции мной не управляют (не смеют мне ставить задач).

Жизнь не может ставить задачи, жизнь - это просто ситуация. Представьте, что вы даете студенту набор переменных между которыми есть зависимости и говорите "действуй!". Что он будет с ними делать?

Под вторым источником вы имеете ввиду только вершину айсберга: ту часть мотиваций, которую вы можете интроспектировать и которая вступила в противоречие с более глубокими неинтроспектируемыми мотивациями. Я же под эмоциями имею ввиду весь айсберг.

Вы научились контролировать эмоции, которые легко интроспектировать. Это замечательное достижение, без иронии замечательное. Теперь вам нужно осознать существование эмоций, которые вы не в состоянии интроспектировать и их безраздельную власть над вами. Не смотрите на себя. Понаблюдайте как ведут себя другие люди.

> Ну прямо вижу в Ваших словах "Эволюцию" в качестве "умного дядьки с нимбом на макушке", очень предусмотрительного, всезнающего, заботящегося о своих "тварях" (не рефлекс ли это, во всем видеть "руку творца" - в уповании на силы науки, силы природы, на миллиарды лет Эволюции и т.п.?)... :)
> Зачем эта мистика, если все можно объяснить куда более прозаически и естественно. Тем более среди рефлексов немало тех, которые не помогают, а мешают жить счастливо и долго (особенно среди "общественных", передаваемых из поколения в поколение).

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

Жизнь-творец, которая ставит мне задачи - это практичное обясниние, а эволюционная целесообразность качеств мозга - это мистика... Ну взгляните на это трезво. Пожалуйтста!

> Простите, но Вы похоже начитались "психологической литературы"... :(

Ага, это все объясняет... Увы, я не могу здесь увидетно ничего кроме хитрости вашего щита, он вам еще не то подбросит, только бы не дай бог вам не пришло в голову заглянуть за него.
А первую книгу по психологии я прочел неделю назад для прикола. Это был учебник.

> "Неинтроспектируемые установки" и "мощные щиты, блокирующие исследование закрытых углов" - это одно и то же, никакая не мистика, и не "бессознательное", это самые обыкновенные рефлексы ЦНС (мозга).

> Я могу как то изменить Ваше мнение обо мне (о том насколько я себя знаю)? Хотите ли Вы сами его изменить?

Вы кажется сказали, что эмоции вами не руководят. Вам дожно быть глубочайше по барабану мое мнение о вас. Точто так же как мне ваше мнение обо мне. Только при этом условии вы сможете меня понять.

> Я только покажу "альтернативу" (подход к исследованию "бессознательного").

Альтернатива вашей альтернативе:
В первом приближении - мозг - мощная вычислительная машина. Эта машина решает задачи, которые перед ней ставит реальность. В этой машине есть один частный механизм: часть состояний мозга протоколируется мозгом и передается на вторичную обработку. Т.е. часть состояний мозга подлежит наблюдению самим же мозгом.
Если вы спрашиваете человека "о чем ты сейчас думаешь", то он дает отчет именно по этому протоколу. Но основная часть работы мозга не протоколируется и не подлежит самоанализу просто потому, что это было бы слишком затратно.
Работа мозга как правило вертится около этого самонаблюдаюшего механизма, но не сводится к нему.

Т.е. когда вы утверждаете, что у вас нет подсознания, а есть только рефлексы, вы утверждаете, что ваш мозг полностью протоколирует всю мыслительную деятельность, кроме простейших действий типа раздражитель-реакция.

Написал длинный пост, прочитал его вашими глазами и понял, что зря потратил время. Хотел стереть, но жалко работы.

Парадокс марионетки.

[hitthelimit.livejournal.com]

Сорри, не нашел вашего поста со ссылкой, за которую спасибо.
Все это забавно (я просмотрел заключительную часть книги), но мой интерес к конкретике такого рода быстро угасает. Хотя авторы и опасаются делать прогнозы относительно будущего ИИ, направление их мышления у меня вызывает улыбку — ребята явно не философы. Например, рассуждение об увеличении сенсорики объекта с ИИ: кажется, что в этом есть смысл. Но что в пределе? Человек обладает только одним вниманием — мы однопроцессорные системы. Если разделить полушария, мы становимся двухпроцессорными, с двумя вниманиями, но признаем только одно. ИИ со сверхразветвленной сенсорикой и огромным количеством независимо работающих центов восприятия — это один субъект или много независимых? Если его деятельность свести к одному вниманию, то что останется от обработки мультисенсорного потока? Некая куцая выжимка. Но это как раз то, что мы и так имеем в своем организме: у нас суперсенсорика со всего тела, она обрабатывается независимыми автономными центрами, и никогда в полном объеме не воспринимается нашим единственным вниманием. Доходят только иногда жалкие ошметки плохо диференцированного содержания. Так что же в пределе? В пределе то, что уже есть — макро реальность. Вот вам в качестве примера нетривиальность напрашивающихся выводов относительно будущего ИИ. Линейное развитие/прогнозирование не имеет смысла.

Конкретика не имеет значения в нашем движении к сингулярности. Для меня уже очевидно, что это вопрос универсальных принципов, то, что происходит. В последнее время я понял некоторые детальные обстоятельства относительно моего «основного вопроса». По мере продвижения «вперед» этот вопрос для меня обретает все более конкретное очертание. К сожалению, возможность говорить об аспектах понимания стремительно сворачивается, вербализация становится бессильной. Заскочив на астрофорум я пытался обратить ваше внимание на новые аспекты нашей темы, но вы, кажется, меня не поняли.

Вот то, о чем я еще могу говорить относительно внятно.
Макро-системы (любые системы реальности) не имеют внутренней/собственной причинности. Это незамысловатое утверждение в пределе приводит к острой когнитивной ситуации глобального плана. «Основной вопрос» вырождается в парадокс марионетки: мы — марионетки, все, что мы делаем, думаем, понимаем — это результат внешнего управления, с той лишь только разницей, что никто не управляет этими параметрами конкретно (как в ситуации с гипотетическим богом), это результат реализации некоего базового принципа/принципов. В точности, как с КА. Это не вопрос, является ли Вселенная КА, это не имеет значения. Важно, что принцип сохраняется.
Здесь будет уместно вспомнить о пресловутом принципе неполноты замкнутых систем. Оказывается, это шарада того же порядка, что и принцип сознания. Неполнота имеет место при наличии двух систем: подлежащей оценке и оценивающей. Оценивающая при этом должна быть шире (полнее) оцениваемой. Часто говорят о принципиальных ограничениях разума, связанных с неполнотой, следующей из факта включенности нас внутрь реальности. Но такое представление есть не что иное, как неявный перенос дихотомии в область анализа. «Я» стремится к самоформализации для стабилизации, но это иллюзия, нет никакого формального «я», способного привести к выводам о неполноте разума. Нет ничего, что о себе свидетельствует — вот величайший парадокс реальности. Все, что может «наблюдать» психика, разум, все, что я пишу здесь, не есть их функции с явной каузальностью. Причинность, если она вообще существует, в чем у меня нет никакой уверенности, лежит где-то в самом основании всей этой иллюзии, а то, что сама иллюзия называет причинностью — есть иллюзия причинности, точно такая же проекция.
Вот в чем острота «основного вопроса». Но если так, то остается только коллапс. Но коллапс чего? Говорить о психогенной или иной сингулярности (правильнее было бы, видимо, говорить о когнитивной сингулярности), о пределе сложности не совсем корректно — такой дискурс неявно включает в себя каузальность коллапсируемого. Парадокс марионетки — это действительно парадокс, из ряда вон выходящий, это парадокс, который, возможно, указывает на «когнитивную» «черную дыру», к которой мы приближаемся. В терминах КА это, возможно, ограничение на частный параметр локальной конфигурации алгоритма.