Искусственный Интеллект (ИИ)
Aug. 15th, 2010 08:39 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
hitthelimitДля того, чтобы сразу понять, что термин ИИ не означает нечто совершенно конкретное, достаточно заглянуть на страничку «Интеллект» в Википедии. Если сам интеллект трактуется столь размыто, то что тогда говорить об искусственном интеллекте? Не считать же в самом деле перечисление всего того, что разные исследователи относят к интеллекту, проясняющим моментом.
Таким образом, с самого начала имеем примерно ту же самую ситуацию, что и с обсуждением, например, сознания - все та же обманчивая очевидность. Между тем этот вопрос не так уж сложно прояснить.
Взгляните на дельфинов, к примеру. Весьма развитый мозг, сложное поведение, большой запас сигналов для коммуникации, высочайшая адаптативность, передача навыков из поколения в поколение, исключительно сложный мозг, наконец (хотя последнее, впрочем, не совсем убедительный довод). Однако, несмотря на огромные усилия энтузиастов и солидных научных заведений, окончательного вердикта относительно разумности дельфинов как не было, так и нет. А ведь чего проще, казалось бы! И ничего создавать не надо, и материала для изучения предостаточно. Одних видов — 30! Самое время спросить: может «в консерватории что-то не так»? А именно, в наших ожиданиях относительно того, что мы готовы назвать интеллектом? Если столь мощная система, какой является мозг дельфина, не считается со всей очевидностью «разумной», значит, самое время определиться, что именно мы создаем под вывеской «ИИ».
Как считает Пенроуз в книге, комментарии к которой я привел постом ниже, человеческое понимание отличается тем, что позволяет нам делать некоторые простые на первый взгляд вещи, которые для компьютера пока что являются непреодолимым вызовом. Углубимся в этот момент. Первое, что хочется сказать, так это то, что мы таким образом делаем нечто необходимое нам. С другой стороны, требуя от компьютера этого же действия, мы требуем опять же что-то необходимое нам. Добавив к этому нашему умению свой превилигированный доступ к состоянию, связанному с выполнение данной функции, мы гордо заявляем, что машины — тупая, бездушная, и ни о каком понимании у нее не может даже идти речь. Можно не сомневаться, что с таким подходом мы еще долго будем создавать ИИ. Следуя мысли проф. Преображенского, а не проще ли нарожать?
Я полагаю, следует четко определиться с тем, что самое главное на наш взгляд в ИИ. Практически все сойдутся как минимум в одном требовании: ИИ должен выполнять некоторые действия. Нет, это я не пошутил. Ключевое слово здесь - «должен». Собственно, при таком раскладе, тему ИИ можно было бы считать закрытой. Если нам ИИ должен, то это уже никак не интеллект, по крайней мере, таковым мы его никогда не признаем. Что думал рабовладелец о своих рабах? Может показаться, что я передергиваю. В конце концов, ИИ может быть должен демонстрировать независимое мышление, или еще чего-то в этом духе. Увы, и в этом щедром варианте кроется все та же ловушка. Из чего следует, что дельфины не демонстрируют независимого мышления? А ведь они очень индивидуальны! Значит, не хватает чего-то существенного... для нас. Значит, опять кто-то должен нам!
Технически, сказанного достаточно, чтобы приступить к выводам.
Не существует никакого интеллекта, вообще.
Есть способность систем демонстрировать некоторые действия.
Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.
Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.
Допустим, больше всего нас интересует когнитивная способность и способность к эвристической деятельности при решении задач. Но это не так просто — вот так сказать. Необходимы некоторые существенные уточнения. Все уточнения на этот счет сведутся к тому, что речь идет о таковой деятельности... для человека. Видите ли, есть такая физическая система — человек. И шутка заключается в том, что мозг человека работает, как бы это сказать, что б не обидно... не только сам на себя. Строго говоря, уровень автореференции даже у самого продвинутого на этот счет мозга попросту плачевный. То, что мы поднимаем на щит в качестве высшей пробы своей разумности - осознание, понимание, есть не более чем пена на поверхности ментального варева, глубинная суть которого для нас совершенно не доступна. Вывод: интеллект нашего мозга — это интеллект нашего мозга, а вовсе не абстрактный интеллект. Тот факт, что при этом мы имеем математику, сути дела не меняет.
Отсюда мораль: любой ИИ, который мы склепаем, будет либо (1) простым набором изощренных программ, работающих с человеческой информационной требухой, либо (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов. Первое уже полным ходом делается, и успехи в этом направлении просто гарантированны. Но это никогда не будет признано ИИ, а только симулятором ИИ. (Я хочу подчеркнуть, что вопрос, будет ли это искусственным интеллектом на самом деле, не имеет смысла). А второе... А дельфины? А оно нам надо? Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом. Тогда напрашивается выход: задать конструкцией и базовым программным обеспечением заведомую близость в ее активном поведении параметрам человеческой психики. Но... тогда мы опять не признаем ее интеллектом, ибо она делает то, что она нам должна, и никому и в голову не придет думать о ее собственных состояниях как о равных человеческим. Повторится история, рассказанная в фильме «Двухсотлетний человек».
Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес, но в случае успеха такая система все равно будет зависать, хотя несовершенные модели могут нешуточно доставить падкой на сенсации публике.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
Re: еще скепсиса для разнообразия :)
Date: 2010-09-02 06:34 pm (UTC)> Представьте, что это у вас перерезана главная комиссура мозга. > Что это вы даете фантастические объяснения своим действиям, выполненым под управлением правого полушария. И свято верите всему, что вы говорите! А потом восстановите комиссуру и подумайте: а что, в сущности, изменилось?! И будет вам просветление... :)
Это как раз все понятно. Мы пленники собственной субъективности но пока мы еще можем продвигаться в объективность во имя достижения своих субъективных целей.
В то же время ясно, что вне нашей субъективности для нас бытия нет. Вопрос в том, есть ли там бытие вообще.
И где заканчивается наша субъективность? На законах физики или "мировом алгоритме", как утверждает материализм? Или законы физики (или алгоритм) - такая-же аутогенерация, как и рационализация внешне обусловленного поведения? Что дальше - бесконечная возможность перехода от субъективного к объективному (допустим, начиная с сингулярности - не для нас, какими мы себя знаем) или предел и собственные следы сознания, держащего само себя за шиворот?
Оптимизм другой природы.
Date: 2010-09-02 09:35 pm (UTC)В то же время ясно, что вне нашей субъективности для нас бытия нет. Вопрос в том, есть ли там бытие вообще.»
Ну, это кого интересуют их субъективные цели. Вы плохо помните то, что я уже говорил: эффект алкаша Васи плюс линейная психика. Хочет ли Вася жить вечно? Да. Как? Что б не работать и водки залейся всегда, и никакого похмелья и цирроза. ВСЕ.
Меня совершенно не интресуют мои текущие субъективные цели. Текущее «я» меня интересует только как основа непрерывности. Цели меня не могут интересовать по причине их ошибочности из за линейности моей психики, от которой мне никуда не деться. По правде, и непрерывность мало что значит. Если я цепляюсь за непрерывность, значит я придерживаю дверь с этой стороны. Скажем так: я не возражаю против непрерывности, но это разменная карта.
Утверждение же «вне нашей субъективности для нас бытия нет» основывается только на непонимании того, что я вам все время толкую, уж пардон. Это шрапнель от солипсизма, которая застряла у вас в мозгу. С точки зрения существования мы — точно такие же системы как любые мыслимые в этой реальности. Мыслимые кем угодно и как угодно — вот в чем фенечка! И нет никаких субъективных целей — есть такая феноменология, проявляющая таким образом некие собственные состояния этих систем в данном качестве. Вторая тема в моем ЖЖ, понятие «сознание». Прочитайте. Как только до вас, сорри, дойдет, что именно я имею в виду, ВСЯ ваша аргументация в текущем ключе иссякнет сама собой. Вы зашли действительно далеко, но все ваши достижения — расчетные. Теперь пора искать понимание.
:)
Re: Оптимизм другой природы.
Date: 2010-09-03 05:25 am (UTC)> Меня совершенно не интресуют мои текущие субъективные цели. Текущее «я» меня интересует только как основа непрерывности. Цели меня не могут интересовать по причине их ошибочности из за линейности моей психики, от которой мне никуда не деться. По правде, и непрерывность мало что значит. Если я цепляюсь за непрерывность, значит я придерживаю дверь с этой стороны. Скажем так: я не возражаю против непрерывности, но это разменная карта.
Но это можно объяснить и в рамках здрорового цинизма. Цели психики не обладают идеальной четкостью, скорее это определенные принципы, которым должна удовлетворять окружающая ситуация. Ваша психика не видит прямого пути исполнения своих целей, но она дисциплинирована, она знает, что не все можно получить сразу когда хочется, что нужно дейтсвовать и ждать. Она выбирает линию поведения, которая дает по ее мнению наиболее перспективна и действует. А очевидная недостижимость целей маскируется герерированными элементами реальности.
Тут вы можете возразить, что психика движется не только мотивациями. Она чувствительна и к "ветру" неких вселенских принципов (тип ПНД). Значит картина здорового цинизма - это еще не вся картина. И тут я пожалуй разделяю ваш оптимизм.
> Утверждение же «вне нашей субъективности для нас бытия нет» основывается только на непонимании того, что я вам все время толкую, уж пардон. Это шрапнель от солипсизма, которая застряла у вас в мозгу. С точки зрения существования мы — точно такие же системы как любые мыслимые в этой реальности. Мыслимые кем угодно и как угодно — вот в чем фенечка!
Видите, вы такой же оптимист, как и все :). Из чего следует, что мыслить подругому можно? Кто сказал, что у бытия есть место из которого можно мыслить подругому? До какой степени подругому?
Психика в поисках линии поведения заставляет нас верить в подобные вещи и принимать эту веру за чистую монету - что очевидная истина, но вся ли это истина вопрос открытый.
Re: Оптимизм другой природы.
Date: 2010-09-03 09:18 pm (UTC)Концепция Существования. Достаточно постулировать, что Есть нечто, о чем нет возможности сказать что-либо определенное, и иной способ мышления из этого следует. Не забывайте, мышление — это точка на обширном диапазоне.
«До какой степени подругому?»
Это не имеет значения.
«Психика в поисках линии поведения заставляет нас верить в подобные вещи и принимать эту веру за чистую монету...»
Вот и не принимайте :)
Re: Оптимизм другой природы.
Date: 2010-09-04 09:33 pm (UTC)> Концепция Существования. Достаточно постулировать, что Есть нечто, о чем нет возможности сказать что-либо определенное, и иной способ мышления из этого следует.
Тогда проще предположить, что "иные" способы мышления обусловлены субъективностью, ошибочностью и несовершенством мышления того, кто мыслит.
Чем качественнее мышление и чем более оно свободно от помех, тем меньше диапазон альтернативных способов мышления.
Если о чем-то нельзя сказать, то это еще ничего не значит. Например, о сознании по большому счету ничего нельзя сказать.
Если о чем-то нельзя помыслить, то это проще объяснить несовершенством мышления конкретного человека или несуществованием этой вещи вообще.
Постулат о существовании чего-то о чем нельзя помыслить - это ничем не оправданная экстраполяция категории сущестования. Всю историю развития человечества экстраполяции категории существования работали и приводили к успехам науки, но они работали очень даже в рамках мыслимого. Т.е. это не повод экстраполяции этой категории в немыслимое.
Я уже говорил о примере с квантовой механикой. Нарисовавшаяся там картина не похожа на проблемы с неподходящим мышлением. Пока проблемы указывают на отсутствие законов физики в объективно существующей без наблюдателя реальности. Там только акт наблюдения порождает законы. Акт наблюдения КЕМ? Никем. Нам предлагается произвольно выбрать из вселенной состояний что мы в ней будем считать наблюдателем и тогда мы получаем, что этот наблюдатель видит соблюдение законов физики. Выделив наблюдателя подругому мы получим другие законы.
А "на самом деле" никакого конкретного наблюдателя там вообще нет.
Т.е. все сводится к сознанию, которое держит само себя за шиворот, являясь одновременно и рабом и причиной существования того, что оно наблюдает.
Рабом, в том смысле, что оно автомат в рамках законов физики и от него ничего не завсит. Причиной - в том смысле, что наблюдаемая картина полностью обусловлена тем, как именно в состояниях выделен наблюдатель.
Собственно, это и есть ваши "состояния", которые не материя и не сознание.
Разница в диапазоне возможностей. У вас этот диапазон несравненно больше.
> Не забывайте, мышление — это точка на обширном диапазоне.
Или существует только одно Мышление и бесконечное количество его замутненных вариантов.
Я вроде бы понимаю на какую дверь вы указываете. Вопрос какие признаки указывают, что эта дверь не пустая игра воображения.
Re: Оптимизм другой природы.
Date: 2010-09-05 01:12 am (UTC)«...проще предположить, что "иные" способы мышления обусловлены субъективностью, ошибочностью и несовершенством мышления того, кто мыслит.»
Во-первых, я имел в виду конкретику — иные носители сложных системных функций, иной субстрат, только и всего. И однако же: «субъективность», «ошибочность», «несовершенство мышления» - что это такое? Я не придираюсь к словам — это раз, и если вы полагаете, что раз мы так долго обсуждаем эти темы, то мне интуитивно понятны подобные термины, то вы ошибаетесь — это два. Для всех этих терминов мы обязаны произвести выделения, в данном случае — критериальные. Если вам этот подход не нравится, тогда за вами - абсолютные критерии. В студию?... Я предложил «псевдоабсолютный» критерий по самозависимости и количеству воспроизводимых состояний. Есть альтернативы? А какой субстрат — разве это важно?
«Чем качественнее мышление и чем более оно свободно от помех, тем меньше диапазон альтернативных способов мышления.»
Вы пытаетесь интуитивно перепеть мой критерий сложности. Вы не находите, что терминов, подлежащих тягостному объяснению, у вас значительно больше, чем у меня? :) Или вы все-таки склонны считать мышление специфическим, не диапазонным процессом? Но это на вас не похоже, по крайней мере, сейчас.
«Если о чем-то нельзя сказать, то это еще ничего не значит. Например, о сознании по большому счету ничего нельзя сказать.
Если о чем-то нельзя помыслить, то это проще объяснить несовершенством мышления конкретного человека или несуществованием этой вещи вообще.»
Слова, слова... Все, о чем можно сказать, существует. Оно существует в виде состояния, приводящего к этому виду активности. Что существует вне это состояния, никому неизвестно. Это величайший трюк иллюзиониста, который реальность непрерывно показывает нам снова и снова. Мы уже все вычислили, что это обман. Но откуда у фокусника в шляпе берется кролик — мы не понимаем, поэтому, вопреки всем своим знаниям, ВИДИМ снова и снова, кролика, извлекаемого из пустой шляпы. Пустой ли? Это и есть вопрос Существования.
«Постулат о существовании чего-то о чем нельзя помыслить - это ничем не оправданная экстраполяция категории сущестования.»
Нет, это был тавтологический перепев постулата самого Существования. Я просто добавил, что внутрь этого постулата ничего вразумительного всунуть невозможно. Я говорю не о каких-то частностях, типа шарообразных лошадей в вакууме. Хотя если бы речь шла даже о них, суть дела странным образом не менялась бы! Какая в конце разница, говорим мы о том, что можем воспринимать с помощью осязания, зрения или ментально? В итоге сотрясая воздух словом, или прикасаясь к чему-то рукой. Эта магия кролика из шляпы! Это магия уровня, на котором смерть для нас — критерий. Тогда жутко важно, что это яблоко на столе видят все, а мой сон — только у меня в голове. Яблоко — реально. Сон — нет. Да? (а) Где граница, по разные стороны которой ответ диаметрально противоположный? Вы впритирку стоите у этой границы, но вы целиком по эту сторону, по ту сторону, где критерием является смерть. У меня никогда не хватит аргументов для вас. Эта привилегия либо дарована вашей системе реальностью, либо нет — сунуть хотя бы нос за линию границы.
«Я уже говорил о примере с квантовой механикой. Нарисовавшаяся там картина не похожа на проблемы с неподходящим мышлением.»
Это именно проблемы с «неподходящим мышлением». Другого рода проблемы в КМ ничем не отличаются от любых проблем в любой науке. Это всего лишь вопросы перцепции и интерпретации.
Re: Оптимизм другой природы.
Date: 2010-09-05 01:12 am (UTC)«Пока проблемы указывают на отсутствие законов физики в объективно существующей без наблюдателя реальности.»
Я думаю, речь идет о той же проблеме, которую я пометил как (а) несколько выше. (а) является частным случаем грандиозной границы, которая появляется в результате редукции ВФ. И теперь, выше, на новых уровнях, системы снова и снова сталкиваются с принципом этой границы. Обратите внимание: вопрос Существования как бы возникает для нас два раза. Первый раз, со всей очевидностью, в КМ, второй раз, уже расчетно, в рамках нашего собственного отражения пост-редукционной реальности, даже тут, по Эту сторону Той границы, Существование кажется нам подозрительным. Я думаю, прорыв понимания должен быть в слиянии этих двух границ. Это один и тот же глюк.
«Акт наблюдения КЕМ? Никем.»
Да, никем, именно поэтому я подозреваю, что реальность — виртуальна. Это согласуется с гипотезой, что реальность — суть ВФ, внутри которой происходит все, что только возможно, и в то же самое время не происходит ничего. Что из этого следует?
А то, что наш способ мышления не годится для отражения зазеркалья. Наш способ мышления, наши частные состояния — суть редукция какого-то глобального состояния. Жалкие иллюзорные ошметки Всего. И никакая «чистота» ему не поможет. Нет такой ясности для него, которая может привести его к пониманию того, что творится в зазеркалье, за той общей границей критериев и смыслов.
И теперь, снова возвращаясь к вопросу о «видах» мышления, я хочу сказать, что есть и не частный аспект, а глобальный. Шутка с рассечением мозолистого тела тут более чем уместна. Опыт правого полушария, столь эффективно работающего (отражающего реальность!) без всякого (видимого) внутреннего отражения, явленного вовне, и опыт левого, столь эффективно дурящего само себя, зато с кучей внутренних отражений, говорит о многом. Не окажется ли в итоге так, что способность нашей психики к абстрагированию, к созданию меток и конструкций из меток — это всего лишь маленькая, но необходимая ступенька в эволюции сложных систем реальности? Костыли, абсолютно необходимые нам, чтобы добраться до двух границ реальности, и которые мы просто обязаны потерять, чтобы быть пропущенными через границу. Сказка об изгнании из рая приобретает несколько иной смысл. Или скажем так, выявляет изначально утерянный смысл. Опять же, все разглагольствования ДХ обретают однозначный смысл, как бы дико это не звучало.
Абстрагирование имеет смысл только при условии, что система отражает мир частным образом в объеме, ниже некоторого критического порога. Тогда процесс абстрагирования дает этой системе возможность усложниться и повысить объем (адекватность?) отражения. Но этот, хотя и революционно эффективный путь - экстенсивный. Он приближает, однако, систему к критической границе, проскочив которую, эти костыли будут ни к чему. От той возможности у нас есть рудимент — прямое понимание. Редкое событие, но реальное. Как напоминание о существовании далекого аттрактора — не здесь, не в этой реальности.
Представьте себе ребенка в утробе, и попробуйте ему объяснить, что значит жить не в водной среде, питаться не через пуповину, а уж тем более, что значит дышать воздухом. Все это заключено в его системе, и будет реализовано, но сама система не может автореферентно отразить такие возможности — в принципе!
Парадокс Ферми...
Так вот, о границе. Это похоже на оптимизм, но оптимизм — это понятие этой стороны. Оно не имеет смыла там, оно туда не экстраполируется. Это точка бифуркации, после которой эта система не будет даже близко тем, чем она является сейчас. Это будет выделение на теле алгоритма, которое существует устойчиво неограниченно долго и в каком угодно виде. Состояние, в котором абстрагирование уже ничего не добавляет. Что добавляет одна редукция для ВФ? С точки зрения ВФ — ничего, так как ВФ уже имеет все состояния, а редукция — только одно, но по Эту сторону — все, всю реальность. И только при близком рассмотрении эта реальность оказывается одним сплошным представление иллюзиониста.
Так вот, когда зрители этого фантастического шоу осознают, что иллюзия - все, произойдут роды, и ребенок вздохнет легкими. И шоу развеется, как будто его никогда и не было. Только не в результате эволюционного «улучшения» мышления, а в результате родов, мгновенного акта.
Re: Оптимизм другой природы.
Date: 2010-09-07 05:38 pm (UTC)Интереса ради могу еще поспорить.
Вы пишите:
> «Акт наблюдения КЕМ? Никем.»
> Да, никем, именно поэтому я подозреваю, что реальность — виртуальна. Это согласуется с гипотезой, что реальность — суть ВФ, внутри которой происходит все, что только возможно, и в то же самое время не происходит ничего. Что из этого следует?
> А то, что наш способ мышления не годится для отражения зазеркалья. Наш способ мышления, наши частные состояния — суть редукция какого-то глобального состояния. Жалкие иллюзорные ошметки Всего. И никакая «чистота» ему не поможет. Нет такой ясности для него, которая может привести его к пониманию того, что творится в зазеркалье, за той общей границей критериев и смыслов.
Здесь вы говорите о той же петле, о которой говорил я. В настоящей реальности ничего конкретного не происходит, а точнее, происходит все, что может происходить. Привычная нам реальность - это искусственное выделение из истинной реальности. Выделение по какому критерию? По критерию "самоотражения". Выделенная часть реальности должна включать в себя отражение самой себя и бытия. А что такое "отражение"? А это критерий, который имеет смысл только для самоотражающихся систем (например, для человека). А какую систему мы считаем "самоотражающейся" - ту, которая отражает... Т.е. наблюдаемая реальность выделяеся из всей реальности и критерий выделения замкнут сам на себя и не определяется вне выделения.
Это петля сознания ("сознания" в максимально общем смысле), создающего возможность для собственного существования.
Идея о том, что нечто является причиной самого себя выглядит не слишком убедительно. Однако понятно, что эта схема выглядит как петля из за искусственно вводимых дихотомий, груза меток и т.д. Можно привлечь прямое понимание и осознать, что никакой настоящей реальности, в которой сознание держит само себя нет, а есть только НЕЧТО (вроде ваших состояний), что воспринимается как петля или как что-то еще.
Дальше возникает вопрос: ближайшая окрестность этого "нечто", что мне увиделось как петля - это и есть все бытие, та его содержательная часть, в которой происходят игрища, или это только часть огромного бытия.
Вы говорите "наш способ мышления не годится для отражения зазеркалья". Т.е. вы предполагаете, что место бытия, видимое мне как петля с самоотражением - это маленькая часть, а площадка для игр гораздо больше.
Интересно, каковы основания для такого предположения.
Пример с правым полушарием, которое все осознает, но не имеет внутреннего диалога (как бы не имеет сознания и ощущения внутренней непрерывности) - впечатляющий пример. Но все же отражающее бытие правое полушарие остается в рамках описанной выше петли, в которой часть реальности выделяется по критерию, который имеет смысл уже после выделения (т.е. только внутри выделенной части).
И так далее..