![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
hitthelimit) wrote2010-08-15 08:39 pm
Искусственный Интеллект (ИИ)
Для того, чтобы сразу понять, что термин ИИ не означает нечто совершенно конкретное, достаточно заглянуть на страничку «Интеллект» в Википедии. Если сам интеллект трактуется столь размыто, то что тогда говорить об искусственном интеллекте? Не считать же в самом деле перечисление всего того, что разные исследователи относят к интеллекту, проясняющим моментом.
Таким образом, с самого начала имеем примерно ту же самую ситуацию, что и с обсуждением, например, сознания - все та же обманчивая очевидность. Между тем этот вопрос не так уж сложно прояснить.
Взгляните на дельфинов, к примеру. Весьма развитый мозг, сложное поведение, большой запас сигналов для коммуникации, высочайшая адаптативность, передача навыков из поколения в поколение, исключительно сложный мозг, наконец (хотя последнее, впрочем, не совсем убедительный довод). Однако, несмотря на огромные усилия энтузиастов и солидных научных заведений, окончательного вердикта относительно разумности дельфинов как не было, так и нет. А ведь чего проще, казалось бы! И ничего создавать не надо, и материала для изучения предостаточно. Одних видов — 30! Самое время спросить: может «в консерватории что-то не так»? А именно, в наших ожиданиях относительно того, что мы готовы назвать интеллектом? Если столь мощная система, какой является мозг дельфина, не считается со всей очевидностью «разумной», значит, самое время определиться, что именно мы создаем под вывеской «ИИ».
Как считает Пенроуз в книге, комментарии к которой я привел постом ниже, человеческое понимание отличается тем, что позволяет нам делать некоторые простые на первый взгляд вещи, которые для компьютера пока что являются непреодолимым вызовом. Углубимся в этот момент. Первое, что хочется сказать, так это то, что мы таким образом делаем нечто необходимое нам. С другой стороны, требуя от компьютера этого же действия, мы требуем опять же что-то необходимое нам. Добавив к этому нашему умению свой превилигированный доступ к состоянию, связанному с выполнение данной функции, мы гордо заявляем, что машины — тупая, бездушная, и ни о каком понимании у нее не может даже идти речь. Можно не сомневаться, что с таким подходом мы еще долго будем создавать ИИ. Следуя мысли проф. Преображенского, а не проще ли нарожать?
Я полагаю, следует четко определиться с тем, что самое главное на наш взгляд в ИИ. Практически все сойдутся как минимум в одном требовании: ИИ должен выполнять некоторые действия. Нет, это я не пошутил. Ключевое слово здесь - «должен». Собственно, при таком раскладе, тему ИИ можно было бы считать закрытой. Если нам ИИ должен, то это уже никак не интеллект, по крайней мере, таковым мы его никогда не признаем. Что думал рабовладелец о своих рабах? Может показаться, что я передергиваю. В конце концов, ИИ может быть должен демонстрировать независимое мышление, или еще чего-то в этом духе. Увы, и в этом щедром варианте кроется все та же ловушка. Из чего следует, что дельфины не демонстрируют независимого мышления? А ведь они очень индивидуальны! Значит, не хватает чего-то существенного... для нас. Значит, опять кто-то должен нам!
Технически, сказанного достаточно, чтобы приступить к выводам.
Не существует никакого интеллекта, вообще.
Есть способность систем демонстрировать некоторые действия.
Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.
Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.
Допустим, больше всего нас интересует когнитивная способность и способность к эвристической деятельности при решении задач. Но это не так просто — вот так сказать. Необходимы некоторые существенные уточнения. Все уточнения на этот счет сведутся к тому, что речь идет о таковой деятельности... для человека. Видите ли, есть такая физическая система — человек. И шутка заключается в том, что мозг человека работает, как бы это сказать, что б не обидно... не только сам на себя. Строго говоря, уровень автореференции даже у самого продвинутого на этот счет мозга попросту плачевный. То, что мы поднимаем на щит в качестве высшей пробы своей разумности - осознание, понимание, есть не более чем пена на поверхности ментального варева, глубинная суть которого для нас совершенно не доступна. Вывод: интеллект нашего мозга — это интеллект нашего мозга, а вовсе не абстрактный интеллект. Тот факт, что при этом мы имеем математику, сути дела не меняет.
Отсюда мораль: любой ИИ, который мы склепаем, будет либо (1) простым набором изощренных программ, работающих с человеческой информационной требухой, либо (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов. Первое уже полным ходом делается, и успехи в этом направлении просто гарантированны. Но это никогда не будет признано ИИ, а только симулятором ИИ. (Я хочу подчеркнуть, что вопрос, будет ли это искусственным интеллектом на самом деле, не имеет смысла). А второе... А дельфины? А оно нам надо? Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом. Тогда напрашивается выход: задать конструкцией и базовым программным обеспечением заведомую близость в ее активном поведении параметрам человеческой психики. Но... тогда мы опять не признаем ее интеллектом, ибо она делает то, что она нам должна, и никому и в голову не придет думать о ее собственных состояниях как о равных человеческим. Повторится история, рассказанная в фильме «Двухсотлетний человек».
Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес, но в случае успеха такая система все равно будет зависать, хотя несовершенные модели могут нешуточно доставить падкой на сенсации публике.
Re: еще скепсиса для разнообразия :)
1. Зачем "перерезать главную комиссуру мозга" чтобы увидеть "фантастические объяснения своим действиям"? - Нормальные люди с неперерезанной комиссурой очень часто дают такие "фантастические объяснения своим действиям" (что изменит для них эта садисткая операция?)...
2. Согласно даже статье г-на Соболева П.Ю. (мягко сказать очень адиозной и невнятной, см. ниже почему) не говоря уже о массе других, куда более адекватных исследований, именно левое полушарие (у правшей) отвественно за "фантастические объяснения", и причина таких "фантазий" давно известна - отсутсвие осознанной информации о причинах этих действий (т.е. любое рефлекторное поведение будет вынужденно объясняться "фантазиями"). Что нового может добавить к этому набившему оскомину факту "перерезание комиссуры" (еще раз это подтвердить? А смысл?)?
3. "А вот ментальные оковы могут остаться с вами навсегда" - зачем такой неотвратимый пессимизм? - Да будут (рефлексы ЦНС будут управлять нашими неосознанными действиями) но, до тех пор, пока мы найдем в себе желания и сил их "перепрограммировать" (избавиться от этих вредных привычек). - Зачем ты ковыряешь в носу пальчиком? - Мама, я не ковырял! (Ведь не врет, он ковырял не осознавая этого)!
Объяснение (почему я назвал стаью "адиозной и невнятной"):
Справка:
В середине прошлого века было повальное увлечение "создать подробную карту мозга" со всеми взаимосвязями и таким образом описать его работу практически до мелочей. С появлением новой аппаратуры было выяснено, что даже крупные "зоны" в мозге одного и того же человека при повторном решении одних и тех задач "плавают", поэтому создать "карту мозга" принципиально невозможно. Вам это известно?
О статье:
1. Операция проводилась у больных с тяжелейшими формами эпилепсии (нарушений работы ЦНС). Почему автор не счел нужным проинформировать читателя о причинах проведения таких операций (т.е. что конкретно "лечилось" перерезанием в ЦНС)? Тем более, что в работах Р. Сперри причины указаны и не двусмысленно.
2. Почему автор не счел нужным отличить особенности, вызванне последствиями тяжелых поражений ЦНС эпилепсией, от особенностей чьей причиной была сама операция по рассечению? "Забыл", или сам не вполне осознавал , что делает (маниакальное желание что-то "доказать")?
3. Не слепой, вижу, что г-н Соболев пытается убедить в том, что "сознание" сосредоточено в левом полушарии, а рефлекторика ("бессознательное") в правом. Поэтому старательно обходит стороной очевидные вопросы:
- А как же правое полушарие умудрялось "узнать" когда и что ему искать, если речевой приказ потупал в левое, связь которого с правым была перерезана?
Странно вдвойне потому, что Р. Сперри дает простое и убедительное объяснение этому "парадоксу", естественное, без той "мистики", которую похоже, наблюдает г-н Соколов.
4. Та же странность замечена и в описании пациента по имени Пол. Автор почему-то дал странное объяснение (которое ничего не объясняет) результатов эксперимента с Полом, "забыв" упомянуть о том:
а) Что эпилепсия у этого парнишки начала развиваться как раз по причине травмы левого полушария, полученной уже в вербальном возрасте (в отличие от остальных пациентов).
б) Что пораженное травмой левое полушарие у Пола выполняло функции "сознания" и "речевого центра"!
Вместо того, чтобы объяснить этот явный "парадокс", г-н Соболев путано отстаивает свою "теорию бессознательного" (но из его "объяснений" непонятным остается факт, почему в здоровом полушарии из "зачатка" не сформировался нормальный "речевой центр", а вопреки логике автора, этот центр сформировался в больном левом полушарии на фоне прогрессирующей эпилепсии?).
О тенденциозности статьи (пиаре и рекламе своих фантастических теорий) свидетельствует и вывод автора в ее конце:
"Вы всё ещё не верите в бессознательное? Тогда мы идём к вам."
Это при том, что по ходу статьи он нигде не счел нужным установить четкую взаимосвязь фантастического "бессознательного" с данными экспериментов (ни единого разу).
Мне крйне интересно понять (оставлю Соболева в покое) - Как Вам-то удалось оценить эту явную "пропаганду" как "Офигительно полезную вещь!"???
Re: еще скепсиса для разнообразия :)
Если вы можете доказать, что основные выводы Сперри были ложны, то вам тем более дадут Нобелевскую премию. Дерзайте.
Re: еще скепсиса для разнообразия :)
Я не оспаривал выводы Р. Сперри, а тем более данные его экспериментов (см. "справку" выше).
Глупо оспаривать факты, да и зачем?...
> ...либо не противоречащими моим собственным представлениям
Спасибо за откровенность.
Я правда не вижу, чем "замечания" г-на Соболева могут помочь Вам (ибо вполне адекватных данных психологических исследований по рефлекторике ЦНС и без его замечаний более чем достаточно), но Вам виднее, дискутировать смысла не вижу (ввиду почти совпадающих "представлений").
Мне вот подумалось (в свете обсуждения ИИ в посте), что если исследователям как-то удастся обойти все "ловушки Порироды" и создать таки ИИ "второго рода" (самостоятельно ставящий и решающий задачи, приобретающий опыт), т.е. настоящий "искусственный разум" (но без чувств и эмоций лежащих в основе живого), то Ваша теория, изложенная в этом журнале, по сути доказывает, что у него будет склонность к "сингулярности" и "суициду" (меня Вы убедили).
Ваша аргументация довольно логична и крепка (я не увидел в ней слабых мест и ошибок), а таких выводов я даже в фантастической литературе не встречал (о "сингулярности" и "суициде" ИИ). К тому же могу дополнительно аргументировать в Вашу пользу (в части полноты и адекватности описания такого гипотетического ИИ Вашей теорией).
Конечно я не член Нобелевского комитета, но подумайте, может быть Вам стоит хотя бы "заявить права" на эти открытия? По крайней мере новизна и практическая значимость результатов налицо. Конечно до Нобелевки придется подождать пока создадут такой ИИ (увы, на мой взгляд это почти невероятное событие, но ведь никто еще 200 лет назад не мог предположить, что люди выйдут в космос).
Я вполне серьезно и без "задних мыслей". Это уровень открытия в науке, а не заурядная работа, hitthelimit.
Поиск заканчивается, когда мы становимся серьезными ©
Все мысли выложены в свободный доступ, и кто хочет, пусть берет их и мается :)
PS Потому что наивно думать, что человек, столь нагло присвоивший себе такой высокомерный ник, ограничится столь сомнительными достижениями :))
Re: Поиск заканчивается, когда мы становимся серьезными
Впрочем не неволю, просто жаль, если эти мысли пропадут...
То что Вы щедры, я заметил и ранее (была у нас краткая дискуссия год назад).
Теперь знаю, что и оптимист (умеющий посмеяться и над собой).
Вы меня еще два раза удивили этим комментарием. :)
Надо будет почаще Вас навещать... :)