![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
hitthelimit) wrote2010-08-15 08:39 pm
Искусственный Интеллект (ИИ)
Для того, чтобы сразу понять, что термин ИИ не означает нечто совершенно конкретное, достаточно заглянуть на страничку «Интеллект» в Википедии. Если сам интеллект трактуется столь размыто, то что тогда говорить об искусственном интеллекте? Не считать же в самом деле перечисление всего того, что разные исследователи относят к интеллекту, проясняющим моментом.
Таким образом, с самого начала имеем примерно ту же самую ситуацию, что и с обсуждением, например, сознания - все та же обманчивая очевидность. Между тем этот вопрос не так уж сложно прояснить.
Взгляните на дельфинов, к примеру. Весьма развитый мозг, сложное поведение, большой запас сигналов для коммуникации, высочайшая адаптативность, передача навыков из поколения в поколение, исключительно сложный мозг, наконец (хотя последнее, впрочем, не совсем убедительный довод). Однако, несмотря на огромные усилия энтузиастов и солидных научных заведений, окончательного вердикта относительно разумности дельфинов как не было, так и нет. А ведь чего проще, казалось бы! И ничего создавать не надо, и материала для изучения предостаточно. Одних видов — 30! Самое время спросить: может «в консерватории что-то не так»? А именно, в наших ожиданиях относительно того, что мы готовы назвать интеллектом? Если столь мощная система, какой является мозг дельфина, не считается со всей очевидностью «разумной», значит, самое время определиться, что именно мы создаем под вывеской «ИИ».
Как считает Пенроуз в книге, комментарии к которой я привел постом ниже, человеческое понимание отличается тем, что позволяет нам делать некоторые простые на первый взгляд вещи, которые для компьютера пока что являются непреодолимым вызовом. Углубимся в этот момент. Первое, что хочется сказать, так это то, что мы таким образом делаем нечто необходимое нам. С другой стороны, требуя от компьютера этого же действия, мы требуем опять же что-то необходимое нам. Добавив к этому нашему умению свой превилигированный доступ к состоянию, связанному с выполнение данной функции, мы гордо заявляем, что машины — тупая, бездушная, и ни о каком понимании у нее не может даже идти речь. Можно не сомневаться, что с таким подходом мы еще долго будем создавать ИИ. Следуя мысли проф. Преображенского, а не проще ли нарожать?
Я полагаю, следует четко определиться с тем, что самое главное на наш взгляд в ИИ. Практически все сойдутся как минимум в одном требовании: ИИ должен выполнять некоторые действия. Нет, это я не пошутил. Ключевое слово здесь - «должен». Собственно, при таком раскладе, тему ИИ можно было бы считать закрытой. Если нам ИИ должен, то это уже никак не интеллект, по крайней мере, таковым мы его никогда не признаем. Что думал рабовладелец о своих рабах? Может показаться, что я передергиваю. В конце концов, ИИ может быть должен демонстрировать независимое мышление, или еще чего-то в этом духе. Увы, и в этом щедром варианте кроется все та же ловушка. Из чего следует, что дельфины не демонстрируют независимого мышления? А ведь они очень индивидуальны! Значит, не хватает чего-то существенного... для нас. Значит, опять кто-то должен нам!
Технически, сказанного достаточно, чтобы приступить к выводам.
Не существует никакого интеллекта, вообще.
Есть способность систем демонстрировать некоторые действия.
Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.
Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.
Допустим, больше всего нас интересует когнитивная способность и способность к эвристической деятельности при решении задач. Но это не так просто — вот так сказать. Необходимы некоторые существенные уточнения. Все уточнения на этот счет сведутся к тому, что речь идет о таковой деятельности... для человека. Видите ли, есть такая физическая система — человек. И шутка заключается в том, что мозг человека работает, как бы это сказать, что б не обидно... не только сам на себя. Строго говоря, уровень автореференции даже у самого продвинутого на этот счет мозга попросту плачевный. То, что мы поднимаем на щит в качестве высшей пробы своей разумности - осознание, понимание, есть не более чем пена на поверхности ментального варева, глубинная суть которого для нас совершенно не доступна. Вывод: интеллект нашего мозга — это интеллект нашего мозга, а вовсе не абстрактный интеллект. Тот факт, что при этом мы имеем математику, сути дела не меняет.
Отсюда мораль: любой ИИ, который мы склепаем, будет либо (1) простым набором изощренных программ, работающих с человеческой информационной требухой, либо (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов. Первое уже полным ходом делается, и успехи в этом направлении просто гарантированны. Но это никогда не будет признано ИИ, а только симулятором ИИ. (Я хочу подчеркнуть, что вопрос, будет ли это искусственным интеллектом на самом деле, не имеет смысла). А второе... А дельфины? А оно нам надо? Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом. Тогда напрашивается выход: задать конструкцией и базовым программным обеспечением заведомую близость в ее активном поведении параметрам человеческой психики. Но... тогда мы опять не признаем ее интеллектом, ибо она делает то, что она нам должна, и никому и в голову не придет думать о ее собственных состояниях как о равных человеческим. Повторится история, рассказанная в фильме «Двухсотлетний человек».
Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес, но в случае успеха такая система все равно будет зависать, хотя несовершенные модели могут нешуточно доставить падкой на сенсации публике.
Re: Интеллект, ИИ и самообман
Вы пытаетесь "влезть в мою шкуру" (это похвально), но почему-то исходите из того, что я - глупец. Нет, я просто сравниваю поведение амебы с поведением ИИ, + к этому сравниваю поведение ИИ с любой "безмозглой материей". Если есть отличия в поведении от "безмозглости", любые - я готов ждать. Если их нет, то ждать "чуда" не вижу причин, такое "ожидание" подобно маниакальной вере (описанной автором журнала выше).
Вопрос по Вашей критике - откуда Вы знаете "принципы, реально заложенные в мыслящем объекте"?
- Я из наблюдений за живыми существами, у них у всех есть, как минимум, одна "эмоция" - интерес, управляющая их поведением. Вы видели живое существо без эмоций?
Отвечать за Пенроуза (его ощущения) не уполномочен. Пока это лишь Ваши догадки (точнее Ваша интерпретация того, что "он ощущает"). Лучше опишите, пожалуйста, свои "ощущения" (критерии), которые были бы достаточны для того, чтобы Вы "решето" объявили "обладающим интеллектом". Это не слишком трудно?
Re: Интеллект, ИИ и самообман
я пытаюсь выразить свою мысль.
> Вопрос по Вашей критике - откуда Вы знаете "принципы, реально заложенные в мыслящем объекте"?
Я не знаю принципов, я знаю, что моя субъективная интерпретация поведения существа не имеет отношения к этим принципам.
> - Я из наблюдений за живыми существами, у них у всех есть, как минимум, одна "эмоция" - интерес, управляющая их поведением. Вы видели живое существо без эмоций?
Что такое "эмоция"? Я не понимаю смысла этого слова :). Переведите этот термин в какие нибудь объективные рамки. Как должно действовать существо, чтобы в его поведении обнаруживалась "эмоция"?
> Лучше опишите, пожалуйста, свои "ощущения" (критерии), которые были бы достаточны для того, чтобы Вы "решето" объявили "обладающим интеллектом". Это не слишком трудно?
Зачем?
Re: Интеллект, ИИ и самообман
А мою не пытаетесь понять перед тем, как отвечать?
> Я не знаю принципов, я знаю, что моя субъективная интерпретация...
Вопросов больше нет, если Вы сами полагаете, что это достаточный аргумент в дискурсе.
> ...Как должно действовать существо, чтобы в его поведении обнаруживалась "эмоция"?
Чуть выше мой ответ hitthelimit-у, я там как раз это описывал (назвав простейшую эмоцию "интересом"). Что такое "эмоция" я описать не смогу (невозможно объективно описать "субъективную бесконечность"). Попробуйте "схватить смысл", на любые вопросы готов ответить.
Лучше опишите, пожалуйста, свои "ощущения" (критерии), которые были бы достаточны для того, чтобы Вы "решето" объявили "обладающим интеллектом". Это не слишком трудно?
> Зачем?
Я хочу понять Вашу "мысль". Ведь и сам далеко не все могу "выразить" корректно (не все "мысли" выразимы языком описаний), но понять человек может и "плохо выраженное". Я буду стараться, обещаю.
Re: Интеллект, ИИ и самообман
Конечно.
> Вопросов больше нет, если Вы сами полагаете, что это достаточный аргумент в дискурсе.
Был бы достаточный, если бы вы правильно его прочитали.
> Чуть выше мой ответ hitthelimit-у, я там как раз это описывал (назвав простейшую эмоцию "интересом"). Что такое "эмоция" я описать не смогу (невозможно объективно описать "субъективную бесконечность").
Вот! Об этом и речь. Вы желаете, чтобы мы программировали вашу субъективную бесконечность. Иными словами квалиа. Это задача неосуществимая по определению. Программированию подлежит поведение а не переживание.
> Попробуйте "схватить смысл", на любые вопросы готов ответить.
Что вы будете делать, когда будете отвечать на вопросы?
В любом учебнике по психологии написано, что человек почти никогда не осознает истинных мотивов того, что он делает или говорит.
Это медицинский факт.
Не получиться ли так, что я буду выяснять что тут нужно программировать, а вы будете защищать свою субъективную бесконечность :)?
Тут нечего и схватывать. Эмоция в поведении - это способность достигать цели в широком диапазоне условий. Робот ползет к цели, вы ставите препятствие, робот обползает препятствие и всеравно достигает цели. Это и есть эмоция. Остальное - от лукавого.
Re: Интеллект, ИИ и самообман
Это радует, если не самообман...
> Был бы достаточный, если бы вы правильно его прочитали.
Вот ведь дурак (я), прочитал как написано... Попробую понять... А как "правильно прочитать" надо было? И откуда Вы знаете, что "правильно", а что нет?
> Вот! Об этом и речь. Вы желаете, чтобы мы программировали вашу субъективную бесконечность. Иными словами квалиа. Это задача неосуществимая по определению. Программированию подлежит поведение а не переживание.
Нет, не мою, свою (откуда Вам знать мою-то, если я ее и описать не могу?)...
"Квалиа" - это пустая формальность, пустой "акт" без механизма и взаимосвязей (выхолощенный, лишенный связи с "контекстом"). Его запрограммировать проблем нет. Но как потом пререйти обратно к "контексту" в реальной обстановке (программно разумеется)?
Так и проблема в том, что условий "правильного" поведения - бесконечность в бесконечной степени, их невозможно "запрограммировать" тупо, как "рефлексы" (квадрильона лет миллиарду программеров не хватит и где тот комп, который эту "программу" осилит?), волей неволей придется это "поведение" сводить к его "условиям" через "нечто" которое не поддается даже описанию (т.е. разрабатывать функцию поведения как произвольного подмножества условий)... :(
> Что вы будете делать, когда будете отвечать на вопросы?
Буду отвечать, если у меня будет на них ответ, разумеется... :)
> В любом учебнике по психологии написано, что человек почти никогда не осознает истинных мотивов того, что он делает или говорит.
Это медицинский факт.
Т.е. Вы говорите (если верить Вашим психологам) не осознавая почему это говорите (как попугай?)??? А я, дурак, стараюсь понять Вами сказанное... (наполовину шутка, без обид) :(
Они обычно пишут, что человек говорит часто то, чего сам не знает (слышал, прочитал, зазубрил и т.п.). Знать и осознавать - две большие разницы. А мотивы... хммм... нужно ли их "осознавать", впрочем здесь легко разобраться (каждому) если захочет. Я, например, всегда осознаю эти "мотивы" (часто их сразу несколько "работает")...
Тут гораздо важнее КАК психологи объясняют этот "медицинский факт". Они рационально объясняют, или опять лишь паталогически ссылаются на свое мистическое "бессознательное"?
Вам интересно рациональное объяснение этому "феномену" (которое Вы сами сможете проверить и убедиться, что оно "правильное")?
> Эмоция в поведении - это способность достигать цели в широком диапазоне условий. Робот ползет к цели, вы ставите препятствие, робот обползает препятствие и всеравно достигает цели. Это и есть эмоция. Остальное - от лукавого.
Ну предположим, что Вы правы... Вот "достиг он цели", КАК ему оценить результат - стоит ли он усилий на него потраченных, "удовлетворяет" или нет он "робота", следует ему действовать в дальнейшем также или стоит поискать более приемлемый способ и т.п.?
Такие "роботы" (как Вы описали) уже есть, не проблема...
Вы сами не видите, что описали не "интеллектуальное поведение", а "маниакальное" как у сумасшедших, алкашей и наркоманов (которых влечет неподконтрольная им "мистическая сила", тащит вопреки их воле и разуму, а потом - "горькое похмелье" и больше ничего)???
Человек "не способный контролировать свои эмоции" считается обычно "больным" и ... "добрые люди" их лечат, порой принудительно... :(
Re: Интеллект, ИИ и самообман
Перефразирую ваш вопрос: "как создать действительно эффективный самообучающийся алгоритм?". Нужно искать принципы, позволяющие подобные алгоритмы созадавать. Элементарное самообучение - не проблема. Проблема в создании достаточно гибкой и устойчивой системы, которую не заносит не клинит и т.д.
Это сложная задача. Раньше или позже мы ее решим. Возможно, в процессе решения мы найдем вознующие связи нашего сознания с основами бытия, или возможно, найдем лишь мертвый алгоритм. Не в этом суть. Суть в том, что не надо пытаться программировать Эмоцию как нечто определенное в "субъективной бесконечности".
> Вы сами не видите, что описали не "интеллектуальное поведение", а "маниакальное" как у сумасшедших, алкашей и наркоманов (которых влечет неподконтрольная им "мистическая сила", тащит вопреки их воле и разуму, а потом - "горькое похмелье" и больше ничего)???
То, что вы описали в точности применимо к жизни нормального человека. Именно неподконтрольная сила и похмелье :). Как правило играем в ящик до начала похмелья.
> Человек "не способный контролировать свои эмоции" считается обычно "больным" и ... "добрые люди" их лечат, порой принудительно... :(
Ага. Человек хочет по нужде здесь и сейчас. Но здесь это чревато неудоствами и общественным порицанием. Надо встать и пойти в туалет. Т.е. человек умеет контролировать свою эмоцию.... для того, чтобы удовлетворить ее не в ущерб другим эмоциям. Это и есть ваш контроль. Другого контроля не существует.
Если вы желаете уверовать, что вами движут не запрограммированные эмоции а нечто трансцендентное - ради бога. Но лучше эту веру приберечь для спасения души. Для создания ИИ она не годится.
Re: Интеллект, ИИ и самообман
Вы не обижайтесь только. У Вас неиссякаемый оптимизм (видимо еще молоды, это огромны плюс - все впереди), возможно именно Вам и улыбнется счастье решить эту задачу... :)
А для меня это "Нью-Васюки" (от Остапа Бендера), видимо подхожу к своей "сингулярности", увы (как ее красочно описал автор поста)... :(((
Ну ведь мы не маньяка создаем, а ИИ вроде бы? :)
Есть и другие, приоритет не самое главное пожалуй в "системе ценностей", куда важнее стимулирующая ее роль и непротиворечивость (во всевозможных конкретных ситуациях).
> Если вы желаете уверовать, что вами движут...
Со стороны, вприглядку, оно конечно виднее...
Re: Интеллект, ИИ и самообман
> Вы не обижайтесь только. У Вас неиссякаемый оптимизм (видимо еще молоды, это огромны плюс - все впереди), возможно именно Вам и улыбнется счастье решить эту задачу... :)
Обиды тут непричем. Мои посты выглядят жестко просто потому, что я не дипломат и слишком самолюбив. Поэтому я пылю и режу по живому. Не обращайте на это внимания. Ищите рациональное зерно.
> А для меня это "Нью-Васюки" (от Остапа Бендера), видимо подхожу к своей "сингулярности", увы (как ее красочно описал автор поста)... :(((
Если верить автору поста, и учесть ваши взгляды на контроль собственных эмоций и прочие, то в его системе координат вы находитесь скорее в периоде розовой юности, нежели в подходе к сингулярности. Опять таки это не критика. Это информация.
Re: Интеллект, ИИ и самообман
Пытаюсь. Это не так просто, как кажется.
> Если верить автору поста, и учесть ваши взгляды на контроль собственных эмоций и прочие, то в его системе координат вы находитесь скорее в периоде розовой юности, нежели в подходе к сингулярности. Опять таки это не критика. Это информация.
Хотелось бы поверить Вам, очень (чтобы стать молодым)... :)))
Ну автор поста "эмоции" рассматривает как "ошибки системы" (ссылку дать?), а ошибки, как известно бывают в любом возрасте. Как раз "опыт" страхует от части из них, так что по логике выходит что, если я не вру насчет контроля над эмоциями и автор поста прав, то стало быть я почти "сингулярностью" в его теории выглядеть должен. :)
Re: Интеллект, ИИ и самообман
> Хотелось бы поверить Вам, очень (чтобы стать молодым)... :)))
Не советую. Жить и умереть за щитами проще :).
> Ну автор поста "эмоции" рассматривает как "ошибки системы" (ссылку дать?), а ошибки, как известно бывают в любом возрасте. Как раз "опыт" страхует от части из них, так что по логике выходит что, если я не вру насчет контроля над эмоциями и автор поста прав, то стало быть я почти "сингулярностью" в его теории выглядеть должен. :)
Ваши щиты заставляют вас пропускать целые абзацы из того, что я пишу.
Еще раз повторяю. Ребенок хочет писать, здесь и сейчас. Но он знает, что писать в штаны некрасиво. Поэтому он просится на горшок. Внутренний отчет "хочу писать" - это следствие эмоции, которую ребенок неплохо интроспектирует. Внутренний отчет "писать в штаны некрасиво" - это следствие эмоции, которую он не интроспектирует: он запрограммирован быть хорошим в глазах своей матери и окружающих людей.
Если вы спросите у ребенка почему писасть в штаны некрасиво, он скажет, что просто некрасиво и все - это дескать каждый знает. Т.е. здесь его интроспекция пока бессильна.
В голове ребенка две выше описанные эмоции борятся друг с другом. В результате формируется программа действий, которая удовлетворяет обе эмоции. Больше ничего.
Если при это ребенок заявляет, что он научился контролировать свои эмоции (не писать в штаны), то на самом деле это просто означает, что он интроспектируемая эмоция проиграла неинтроспектируемой. Если ребенок написал в штаны - значит он не смог контролировать эмоцию в том смысле, что победила интроспектируемая.
Помехой для осознания являются оба рода эмоций. Отрицая существование неинтроспектируемого влияния эмоций вы автматически безраздельно попадаете под их власть. Т.е. до сингулярности вам дальше, чем пешком до луны.