Искусственный Интеллект (ИИ)

[hitthelimit]

Для того, чтобы сразу понять, что термин ИИ не означает нечто совершенно конкретное, достаточно заглянуть на страничку «Интеллект» в Википедии. Если сам интеллект трактуется столь размыто, то что тогда говорить об искусственном интеллекте? Не считать же в самом деле перечисление всего того, что разные исследователи относят к интеллекту, проясняющим моментом.

 

Таким образом, с самого начала имеем примерно ту же самую ситуацию, что и с обсуждением, например, сознания - все та же обманчивая очевидность. Между тем этот вопрос не так уж сложно прояснить.

 

Взгляните на дельфинов, к примеру. Весьма развитый мозг, сложное поведение, большой запас сигналов для коммуникации, высочайшая адаптативность, передача навыков из поколения в поколение, исключительно сложный мозг, наконец (хотя последнее, впрочем, не совсем убедительный довод). Однако, несмотря на огромные усилия энтузиастов и солидных научных заведений, окончательного вердикта относительно разумности дельфинов как не было, так и нет. А ведь чего проще, казалось бы! И ничего создавать не надо, и материала для изучения предостаточно. Одних видов — 30! Самое время спросить: может «в консерватории что-то не так»? А именно, в наших ожиданиях относительно того, что мы готовы назвать интеллектом? Если столь мощная система, какой является мозг дельфина, не считается со всей очевидностью «разумной», значит, самое время определиться, что именно мы создаем под вывеской «ИИ».

 

Как считает Пенроуз в книге, комментарии к которой я привел постом ниже, человеческое понимание отличается тем, что позволяет нам делать некоторые простые на первый взгляд вещи, которые для компьютера пока что являются непреодолимым вызовом. Углубимся в этот момент. Первое, что хочется сказать, так это то, что мы таким образом делаем нечто необходимое нам. С другой стороны, требуя от компьютера этого же действия, мы требуем опять же что-то необходимое нам. Добавив к этому нашему умению свой превилигированный доступ к состоянию, связанному с выполнение данной функции, мы гордо заявляем, что машины — тупая, бездушная, и ни о каком понимании у нее не может даже идти речь. Можно не сомневаться, что с таким подходом мы еще долго будем создавать ИИ. Следуя мысли проф. Преображенского, а не проще ли нарожать?

 

Я полагаю, следует четко определиться с тем, что самое главное на наш взгляд в ИИ. Практически все сойдутся как минимум в одном требовании: ИИ должен выполнять некоторые действия. Нет, это я не пошутил. Ключевое слово здесь - «должен». Собственно, при таком раскладе, тему ИИ можно было бы считать закрытой. Если нам ИИ должен, то это уже никак не интеллект, по крайней мере, таковым мы его никогда не признаем. Что думал рабовладелец о своих рабах? Может показаться, что я передергиваю. В конце концов, ИИ может быть должен демонстрировать независимое мышление, или еще чего-то в этом духе. Увы, и в этом щедром варианте кроется все та же ловушка. Из чего следует, что дельфины не демонстрируют независимого мышления? А ведь они очень индивидуальны! Значит, не хватает чего-то существенного... для нас. Значит, опять кто-то должен нам!

 

Технически, сказанного достаточно, чтобы приступить к выводам.

 

Не существует никакого интеллекта, вообще.

Есть способность систем демонстрировать некоторые действия.

Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.

Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.

 

Допустим, больше всего нас интересует когнитивная способность и способность к эвристической деятельности при решении задач. Но это не так просто — вот так сказать. Необходимы некоторые существенные уточнения. Все уточнения на этот счет сведутся к тому, что речь идет о таковой деятельности... для человека. Видите ли, есть такая физическая система — человек. И шутка заключается в том, что мозг человека работает, как бы это сказать, что б не обидно... не только сам на себя. Строго говоря, уровень автореференции даже у самого продвинутого на этот счет мозга попросту плачевный. То, что мы поднимаем на щит в качестве высшей пробы своей разумности - осознание, понимание, есть не более чем пена на поверхности ментального варева, глубинная суть которого для нас совершенно не доступна. Вывод: интеллект нашего мозга — это интеллект нашего мозга, а вовсе не абстрактный интеллект. Тот факт, что при этом мы имеем математику, сути дела не меняет.

 

Отсюда мораль: любой ИИ, который мы склепаем, будет либо (1) простым набором изощренных программ, работающих с человеческой информационной требухой, либо (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов. Первое уже полным ходом делается, и успехи в этом направлении просто гарантированны. Но это никогда не будет признано ИИ, а только симулятором ИИ. (Я хочу подчеркнуть, что вопрос, будет ли это искусственным интеллектом на самом деле, не имеет смысла). А второе... А дельфины? А оно нам надо? Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом. Тогда напрашивается выход: задать конструкцией и базовым программным обеспечением заведомую близость в ее активном поведении параметрам человеческой психики. Но... тогда мы опять не признаем ее интеллектом, ибо она делает то, что она нам должна, и никому и в голову не придет думать о ее собственных состояниях как о равных человеческим. Повторится история, рассказанная в фильме «Двухсотлетний человек».

 

Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес, но в случае успеха такая система все равно будет зависать, хотя несовершенные модели могут нешуточно доставить падкой на сенсации публике.

 

Comments

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

Добрый вечер!
Спасибо за ответ (и за "вмешательство"), ибо с владельцем журнала у меня, увы, не получалось продуктивного диалога, а жаль (мне), ибо его размышления нестандартны и интересны (как минимум методически).
Уважаемый коллега (я тоже программист), и сама наша работа требует от нас точности и аккуратности в формулировках и описаниях. Это очень неплохая привычка во всем, даже в дискуссиях.

Я буду прмолинеен, без обид.
Я согласен, нужно создавать не для "кажется", а для дела. Но.
Есть, например, решето, которое известно с древних времен и широко используется поныне "в широком спектре ситуаций" и "действует эффективно". Решето "автоматически имеет интеллект"?
То, что Вы описали имеет свои конвенциональные метки - "механизация" и "автоматизация", и ни один специалист не скажет - "интеллектуализация" (ибо знает, что там интеллекта ноль).

Р. Пенроуз в своей книге пишет и неаккуратно и не точно. "Нерешаемую задачу" не сможет решить никто (ни ИИ, ни человек, ни "пришелец"), "вести себя разумно" столь же невозможно, как и решать нерешаемые задачи (поведение бывает либо случайным, бессмысленным, либо осмысленным в целях самого объекта). Но Вы правы, в том, что "осмысленность" субъективна (в большинстве случаев), к тому же даже человек лишь малую часть действий совершает осмысленно, а остальные - либо по привычке (рефлекс), либо случайно - "куда кривая вывезет" (они ему безразличны).
Но отличить "осмысленное поведение" задача решаемая - оно не рефлекторно и не случайно.

Не надейстесь даже... Эволюция "решала задачу" уже имея "живой материал"...
Вы же программист, неужели Вы видели хоть одну программу, которая хоть раз до чего-нибудь "додумалась" сама? Возможно ли на рефлексах "собрать" мысль и даже элементарную эмоцию - "нравится / не нравится", без которой немыслима самостоятельность, т.е. "свобода выбора", найденная и у амеб?
Программный код "прописывает" для объекта рефлексы (поведение в жестко описанных программой ситуациях), а генератор случайных чисел - "безразличность". Поведение улитки интеллектуально (самую малость), ибо она способна поставить сама себе задачу и решить ее, а затем оценить решение и приобрести опыт. Ни одна самая "умная" машина этого не может и не сможет, ибо нет таких средств у нас, чтобы заложить в нее стремление к самостоятельности и смыслу.
Невозможно запрограммировать поведение в априори бесконечном числе жизненных ситуаций даже за триллион лет даже для амебы...
Исчезнут люди и... все наши самые "умные" машины очень скоро встанут из-за самых разных "случайных" проблем, которые они даже самостоятельно "увидеть" не смогут, чтобы искать им далее "противоядие"... Этим и отличается живое от не живого (в т.ч. искусственного). Чтобы создать ИИ нужно решить задачу Пигмалиона - оживить безжизненное... и никак иначе, увы... Ни метафизика (в том числе когнитивистика), ни дуализм любых мастей эту задачу решить не способны ("отразить" Природу). Тот же Рорти в "Философии и зеркале..." это великолепно показал...

Чем мне импонирует hitthelimit, так это четкой постановкой задач и вопросов, а также безупречностью анализа. И все его рассуждения о "суициде", "сингулярности" и т.п. в последних постах безупречны, если предположить, что в жизни нет того "третьего", чего не видят ни метафизики, ни дуалисты - того, что превращает безжизненную биомассу (труп) в живое существо, нет любви (я не шучу). Он очень четко поставил "задачу поиска интелелкта", описал возможные варианты решения и их последствия. Мне неясно одно, на каком оновании он отрицает в жизни то, делает ее жизнью (может отсюда и неувязки)?

самообман

[hitthelimit.livejournal.com]

"...на каком оновании он отрицает в жизни то, делает ее жизнью..."
Вам не приходит в голову, что линия вашей аргументации имеет сильную аналогию с линией аргументации верующих? Существует правило: всякое утверждение, в том числе и отрицательное, требует доказательства. Так, если кто-то утверждает, что есть бог, то это надо доказать, иначе — вера. Вопросы веры я не обсуждаю, разве что ее глобальный, академический аспект. А вот продвинутые атеисты не говорят, что бога нет. Они спрашивают: а что это такое? Потому что любому мало-мальски независимо соображающему человеку понятно, что введение бога в мировоззрение не отвечает ни на какие вопросы, а только порождает новые.
Это касается и свойств живого. Я процитировал вашу фразу — вы делаете то, на что я совсем недовно обратил ваше внимание: приписываете мне позицию. Я ничего не отрицал. Я просто чего-то не обнаруживал. Вы обнаружили? Прекрасно! Расскажите нам. Только воздержитесь от перечисления признаков жизни по версии БСЭ и лирики. За лирикой я хожу на другие страницы сети.

Re: самообман

[sageserjant.livejournal.com]

Намекаете на "китайский фарфоровый чайник" Б. Рассела? - Нет, таких у меня не припасено, увы... хотя не исключаю вариант, что я их просто "не обнаруживал" (не наблюдаете симметричность нашей "аргументации"?).
Смотря какого "Бога" (если антропоморфного, с нимбом на макушке, то и я ровно того же мнения). Давайте оставим его в покое, это разговор для другой темы.
Есть такая штуковина "Theory of mind" (знакомы?). Я пытаюсь понять Вас, а Вы меня?
Мы с Вами по разные стороны забора, на заборе кошка с моей стороны. С моей точки зрения Вы ее отрицаете, с Вашей - не обнаруживаете. Предложение - попробуйте прелезть забор...

Самое минимальное "доказательство":
Жизнь есть движение иногда не подчиняющееся "законам природы", т.е. "естественно не оптимальное" (с точки зрения физики, химии, биорефлекторики и т.п.). Причем отклонения стабильны (не случайны) относительно метки "интерес" (с обоими знаками). Живое стремиться "закрыться" от того, что "отрицательно интересно" (спрятаться, убежать) и тянется к тому, что "положительно интересно" (проявляет активность, идет на сближение и т.п.). Интерес же можно описать как простейшую эмоцию "нравится - безразлично - не нравится". Чем больше эмоций, тем больше и сложнее отклонения в поведении от "оптимальных", самая сильная - любовь (по сути - собрание всех эмоций воедино). Пропадает интерес к жизни - нет препятствий к суициду (зачем зря коптить небо, а вдруг там, за чертой что-то есть интересное). Смотрите далее Вашу же аргументацию о "системной сингулярности", у меня к ней замечаний нет.
Это эмпирика (получено из наблюдений), у меня нет "теории жизни", тем более абиотической.

ИИ (второго рода - "нейронные сети" или "обучаемое ПО") строится точно также. Задается интегральный критерий деятельности (аналог "интереса") прошивается в основе. Далее идет "обучение" при котором "интересом" управляет экспериментатор (точно как учат ребенка). Пока он это делает ИИ обучается и "накапливает опыт". Как только прекращает - ИИ быстро колапсирует до состояния "внутреннего хаоса" и далее ведет себя строго как "физическое тело" (естественно оптимально по "законам природы"). До сих пор не найдено средств превратить "интегральный критерий" в "живой интерес", ибо любая "прошивка" - рефлекс (жесткая связь), а "интерес" - смыслозадающий целеуказатель (не связь, не жесткая и не рефлекс). Т.е. живая эмоция - не рефлекс и не может быть объективно описана (она сугубо "субъективна" и относительна).

Re: самообман

[sageserjant.livejournal.com]

Да, извините, не описал почему "коллапсирует" (для меня это "очевидно")... :(
Дело в том, что полученный в результате действия "результат" ИИ нужно "оценить" в референции к "интересу" (чтобы понять "хорош" результат или "плох"). Именно поэтому тот же самый "интерес" должен и "оценивать" результат "с точки зрения себя самого". Получается функция "оценки" типа х=Fn(х, у,...). Далее, думаю, уже понятно...

Re: самообман

[muha-a.livejournal.com]

> Дело в том, что полученный в результате действия "результат" ИИ нужно "оценить" в референции к "интересу" (чтобы понять "хорош" результат или "плох"). Именно поэтому тот же самый "интерес" должен и "оценивать" результат "с точки зрения себя самого".

Это непонятно. Вы имеетве ввиду, что сеть может обучаться на отдельных уроках, но неясно как это заставить работать в реальном времени?

Наверно для этого ИИ нужна "психика" т.е. тонко настроенный механизм, активизирующий и подавляющий различные вычислительные процессы и обеспечивающий поддержание стабильного познавательного процесса.
Судя по вашим словам, работающую модель психики никому создать пока не удалось.
Ну не все сразу...

Re: самообман

[sageserjant.livejournal.com]

Так все и происходит "в реальном времени" (и обучение и самообучение)...
Замысел был такой:
- управляем заранее "прошитым" интегральным критерием (типа "интерес"), создавая вокруг ИИ разнообразные учебные ситуации. При оценке результата действий ИИ вмешиваемся в оценку, поощряя с помощью того же критерия "правильное поведение", и не поощряя "неправильное". ИИ запоминает "опыт", причем в референции к критерию, этот опыт входит в функцию оценки наравне с критерием. Набрав достаточно опыта включаем внутри "обратную связь", одновременно отключая управление. ИИ маниакально "тянется" в новой учебной ситуации к результату, сам себя оценивает, получает новый опыт и так далее, постепенно усложняясь при самообучении...
Но не вышло, при "отпускании на вольные хлеба" быстро (на 1-й, максимум на 2-й ситуации происходит "коллапс"), либо остается голый "маниакализм" (очень редко), либо полностью исчезает всякая активность (пропал интерес). При проверке "системной памяти" (опыта) обнаруживаем там полный хаос... Коллеги из США решили, что это от малой "вычислительной мощности", получили колоссальные бабки и сейчас строют "суперкомпьютер" (поживем, увидим что получится).
Там ничего не надо "подавлять" (нет "конкурирующих" процессов) моделируется самое простое поведение (типа: найти скорейший путь из точки А в точку Б с объездом препятствий). Проблему многие видят лишь одну - рекурсивность "оценочной функции" (чисто математически), а по простому - "прошитый рефлекс" не может заменить живую эмоцию (он тождественно мертв).
А Вы мне не верьте наслово, наберите в поисковике "нейронные сети результат" и гляньте сами (остерегайтесь пиара и рекламы)... :)

Re: самообман

[muha-a.livejournal.com]

Пока ничего не понял. Что за обратная связь включается и каким образом ИИ сам себя оценивает?
ИИ сам вычисляет целевую функцию? Что за "интегральный критерий типа интерес"?
Что они пытались создать? ИИ, действующий в среде в реальном времени, или простой оптимизатор, в который подается задача и выдается оптимальное решение.

В любом случае, то что вы описываете не напоминает мышление животных или человека.
ИМХО, целевые критерии, максимума которых следует добиваться у животных прошиты жестко (в генетическом коде) и не подлежат коррекции. Плавающими являются только ассоциации с целевыми ситуациями.

Кроме того, подход американцев, который вы описали внешне напоминает изобретение вечного двигателя. Если бы все было так просто, первая же амеба стала бы океаном Соляриса.
Мозг не выглядит как единый однородный каогломерат из нейронов. Напротив, в нем очемь много явно специализированных частей, каждая их которых тонко настроена на выполнение своей функции. Врятли мозг проще, чем весь остальной организм.

Хотя, путь, по которому они пошли может сработать: пишем ИИ на суперкомпьютере, обнаруживаем его нестабильность. Дополняем его механизмом, искусственно стабилизирующим ситуацию, обнаруживаем, что механизм работает не всегда, дополняем механизм и так далее до победного конца.
Естесственно, лучше это пробовать на суперкомпьютере, поскольку лучше один раз увидеть, чем сто раз измыслить.

При этом лучше сразу пытаться создать ИИ, который вел бы себя относительно оптимально в реальном времени в постых ситуациях. Например, ползал бы и искал еду чуть лучше, чем в него изначально это заложили.

Реальные организмы в природе организмы никогда не сталкиваются с проблемами типа оптимизации пути и вообще не сталкиваются с проблемами, решение которых требует перебора слишком большого числа вариантов. Вспомните, что детеныши копытных умеют почти все, что умеют взрослые сразу после рождения, без всякого обучения.
Т.е. реальное животное попадает в ситуацию, когда у него уже есть эффективно работающий набор программм и остается только понемногу его корректировать. Никое повышение сложности с нуля и до небес не требуется. Оно и невозможно.

Re: самообман

[sageserjant.livejournal.com]

Я выше уже описал "целевую функию" (пример) - "проехать от начала до конца маршрута без столкновений".
ИИ пытались сделать (который может сам оценить "обстановку"). Оптимизаторы давно реализованы на базе GPS, например.

А никто и не пытался (почти) скопировать человека (зачем? - проще "нарожать")...
Ваше ИМХО (как и все, включая мои) - это "фантастические обяснения" неосознанного. Ибо ИМХО рефлекторно. Нью-Васюки, короче...

Вот эта "проблема океана Соляриса" как раз и является одним из основных возражений против эволюционной теории. Объясните сначала почему Эволюция не пошла путем "Соляриса" (без мистики, естественным путем). Сможете?
В том то и фокус, что спец-части в мозге разумеется есть, но они "толстые", а не "тонкие", да еще и "плавающие" (по современным данным). Разумеется мозг не проще, чем остальной человек.

> При этом лучше сразу пытаться создать ИИ, который вел бы себя относительно оптимально в реальном времени в постых ситуациях.

Именно это и пытаюстя почти все создать. А "еду" ему искать не за чем, какой от него тогда прок (кто деньги даст на такую показуху?)?

> Реальные организмы в природе организмы никогда не сталкиваются с проблемами типа оптимизации пути и вообще не сталкиваются с проблемами, решение которых требует перебора слишком большого числа вариантов.

??? - Вы когда идете по тротуару Вы не обходите прохожих или Вам "по фигу" как идти на работу - прямым путем или через Владивосток?

> Вспомните, что детеныши копытных умеют почти все, что умеют взрослые сразу после рождения, без всякого обучения.

Это устаревшая гипотеза. Ныне многие исследователи придерживаются того, что "генетически запрограммированных повденческих реакций" (инстинктов) у животных нет, само это слово упоминать ныне в научной среде "правило дурного тона". Вам неизвестны, например, случаи воспитания хищниками детенышей своих жертв?

> Т.е. реальное животное попадает в ситуацию, когда у него уже есть эффективно работающий набор программм и остается только понемногу его корректировать. Никое повышение сложности с нуля и до небес не требуется. Оно и невозможно.

Мы не о животных говорим, а об ИИ. Копировать животных незачем, проще "развести" в нужном количестве ("нарожать").

Re: самообман

[muha-a.livejournal.com]

> Это устаревшая гипотеза. Ныне многие исследователи придерживаются того, что "генетически запрограммированных повденческих реакций" (инстинктов) у животных нет, само это слово упоминать ныне в научной среде "правило дурного тона". Вам неизвестны, например, случаи воспитания хищниками детенышей своих жертв?

Естесственно, в генах заложены не конкреные детали инстинкта, а базовые поведенческие установки, которые во взаимодействии со средой развиваются в конкретную реализацию инстинкта.
Но алгоритм инстинкта развивается в мозге до определенной степени автономно без обратной связи с самой программой работы мозга. Хотя, с другой стороны, естесственно, это процесс на грани устойчивости, как и все в организме.

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Возможно ли на рефлексах "собрать" мысль и даже элементарную эмоцию - "нравится / не нравится", без которой немыслима самостоятельность, т.е. "свобода выбора", найденная и у амеб?

То от чего предостерегал hitthelimit так и выпирает в этих ваших словах. Те вещи о которых вы говорите (наличие эмоций, свободы выбора) не имеют никакого отношения к принципам, реально заложенным в мыслящем объекте. Т.е. к внутреннему устройству мыслящего объекта.
Эти вещи представляют собой коктейль эмоций, который возбуждает в вашей голове созерцание поведения мыслящего объекта. Вы видите, как амеба делает нечто, подставляете себя на ее место, находите определенное сходство в поведении и восклицаете "О! Она имеет желания (или свободу выбора)", имея ввиду, что вы у себя ощущаете наличие этих "качеств" и переносите это ощущение на амебу. Это попросту антинаучно.

Пенроуз грешит тем же самым. Он ощущает себя разумным и желает, чтобы это же ощущение у него вызывал ИИ. Но при этом он не хочет подождать, пока ИИ вырастет от амебы-стрекозы до глупого человека, затем до умного, и наконец до такого, как Пенроуз, а хочет ощущать разумность уже при созерцании базовых принципов построения интеллекта. Существующие схемы (алгоритм, нейронные сети, эволюционные алгоритмы, нечеткая логика и т.д.) не вызывают у него этого ощущения. Поэтому он цепляется за загадку квантовой механики.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

От предостережений и критики hitthelimit-а я не отказываюсь, от Ваших тоже. Лишь прошу их обосновать (не обязательно "доказать") хоть чем-то, что я мог бы проверить сам. Это глупо?

Вы пытаетесь "влезть в мою шкуру" (это похвально), но почему-то исходите из того, что я - глупец. Нет, я просто сравниваю поведение амебы с поведением ИИ, + к этому сравниваю поведение ИИ с любой "безмозглой материей". Если есть отличия в поведении от "безмозглости", любые - я готов ждать. Если их нет, то ждать "чуда" не вижу причин, такое "ожидание" подобно маниакальной вере (описанной автором журнала выше).
Вопрос по Вашей критике - откуда Вы знаете "принципы, реально заложенные в мыслящем объекте"?
- Я из наблюдений за живыми существами, у них у всех есть, как минимум, одна "эмоция" - интерес, управляющая их поведением. Вы видели живое существо без эмоций?

Отвечать за Пенроуза (его ощущения) не уполномочен. Пока это лишь Ваши догадки (точнее Ваша интерпретация того, что "он ощущает"). Лучше опишите, пожалуйста, свои "ощущения" (критерии), которые были бы достаточны для того, чтобы Вы "решето" объявили "обладающим интеллектом". Это не слишком трудно?

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Вы пытаетесь "влезть в мою шкуру"

я пытаюсь выразить свою мысль.

> Вопрос по Вашей критике - откуда Вы знаете "принципы, реально заложенные в мыслящем объекте"?

Я не знаю принципов, я знаю, что моя субъективная интерпретация поведения существа не имеет отношения к этим принципам.

> - Я из наблюдений за живыми существами, у них у всех есть, как минимум, одна "эмоция" - интерес, управляющая их поведением. Вы видели живое существо без эмоций?

Что такое "эмоция"? Я не понимаю смысла этого слова :). Переведите этот термин в какие нибудь объективные рамки. Как должно действовать существо, чтобы в его поведении обнаруживалась "эмоция"?

> Лучше опишите, пожалуйста, свои "ощущения" (критерии), которые были бы достаточны для того, чтобы Вы "решето" объявили "обладающим интеллектом". Это не слишком трудно?

Зачем?

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> я пытаюсь выразить свою мысль.

А мою не пытаетесь понять перед тем, как отвечать?

> Я не знаю принципов, я знаю, что моя субъективная интерпретация...

Вопросов больше нет, если Вы сами полагаете, что это достаточный аргумент в дискурсе.

> ...Как должно действовать существо, чтобы в его поведении обнаруживалась "эмоция"?

Чуть выше мой ответ hitthelimit-у, я там как раз это описывал (назвав простейшую эмоцию "интересом"). Что такое "эмоция" я описать не смогу (невозможно объективно описать "субъективную бесконечность"). Попробуйте "схватить смысл", на любые вопросы готов ответить.


Лучше опишите, пожалуйста, свои "ощущения" (критерии), которые были бы достаточны для того, чтобы Вы "решето" объявили "обладающим интеллектом". Это не слишком трудно?
> Зачем?
Я хочу понять Вашу "мысль". Ведь и сам далеко не все могу "выразить" корректно (не все "мысли" выразимы языком описаний), но понять человек может и "плохо выраженное". Я буду стараться, обещаю.

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> А мою не пытаетесь понять перед тем, как отвечать?

Конечно.

> Вопросов больше нет, если Вы сами полагаете, что это достаточный аргумент в дискурсе.

Был бы достаточный, если бы вы правильно его прочитали.

> Чуть выше мой ответ hitthelimit-у, я там как раз это описывал (назвав простейшую эмоцию "интересом"). Что такое "эмоция" я описать не смогу (невозможно объективно описать "субъективную бесконечность").

Вот! Об этом и речь. Вы желаете, чтобы мы программировали вашу субъективную бесконечность. Иными словами квалиа. Это задача неосуществимая по определению. Программированию подлежит поведение а не переживание.

> Попробуйте "схватить смысл", на любые вопросы готов ответить.

Что вы будете делать, когда будете отвечать на вопросы?
В любом учебнике по психологии написано, что человек почти никогда не осознает истинных мотивов того, что он делает или говорит.
Это медицинский факт.
Не получиться ли так, что я буду выяснять что тут нужно программировать, а вы будете защищать свою субъективную бесконечность :)?

Тут нечего и схватывать. Эмоция в поведении - это способность достигать цели в широком диапазоне условий. Робот ползет к цели, вы ставите препятствие, робот обползает препятствие и всеравно достигает цели. Это и есть эмоция. Остальное - от лукавого.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> Конечно.

Это радует, если не самообман...

> Был бы достаточный, если бы вы правильно его прочитали.

Вот ведь дурак (я), прочитал как написано... Попробую понять... А как "правильно прочитать" надо было? И откуда Вы знаете, что "правильно", а что нет?

> Вот! Об этом и речь. Вы желаете, чтобы мы программировали вашу субъективную бесконечность. Иными словами квалиа. Это задача неосуществимая по определению. Программированию подлежит поведение а не переживание.

Нет, не мою, свою (откуда Вам знать мою-то, если я ее и описать не могу?)...
"Квалиа" - это пустая формальность, пустой "акт" без механизма и взаимосвязей (выхолощенный, лишенный связи с "контекстом"). Его запрограммировать проблем нет. Но как потом пререйти обратно к "контексту" в реальной обстановке (программно разумеется)?
Так и проблема в том, что условий "правильного" поведения - бесконечность в бесконечной степени, их невозможно "запрограммировать" тупо, как "рефлексы" (квадрильона лет миллиарду программеров не хватит и где тот комп, который эту "программу" осилит?), волей неволей придется это "поведение" сводить к его "условиям" через "нечто" которое не поддается даже описанию (т.е. разрабатывать функцию поведения как произвольного подмножества условий)... :(

> Что вы будете делать, когда будете отвечать на вопросы?

Буду отвечать, если у меня будет на них ответ, разумеется... :)

> В любом учебнике по психологии написано, что человек почти никогда не осознает истинных мотивов того, что он делает или говорит.
Это медицинский факт.

Т.е. Вы говорите (если верить Вашим психологам) не осознавая почему это говорите (как попугай?)??? А я, дурак, стараюсь понять Вами сказанное... (наполовину шутка, без обид) :(
Они обычно пишут, что человек говорит часто то, чего сам не знает (слышал, прочитал, зазубрил и т.п.). Знать и осознавать - две большие разницы. А мотивы... хммм... нужно ли их "осознавать", впрочем здесь легко разобраться (каждому) если захочет. Я, например, всегда осознаю эти "мотивы" (часто их сразу несколько "работает")...
Тут гораздо важнее КАК психологи объясняют этот "медицинский факт". Они рационально объясняют, или опять лишь паталогически ссылаются на свое мистическое "бессознательное"?
Вам интересно рациональное объяснение этому "феномену" (которое Вы сами сможете проверить и убедиться, что оно "правильное")?

> Эмоция в поведении - это способность достигать цели в широком диапазоне условий. Робот ползет к цели, вы ставите препятствие, робот обползает препятствие и всеравно достигает цели. Это и есть эмоция. Остальное - от лукавого.

Ну предположим, что Вы правы... Вот "достиг он цели", КАК ему оценить результат - стоит ли он усилий на него потраченных, "удовлетворяет" или нет он "робота", следует ему действовать в дальнейшем также или стоит поискать более приемлемый способ и т.п.?
Такие "роботы" (как Вы описали) уже есть, не проблема...
Вы сами не видите, что описали не "интеллектуальное поведение", а "маниакальное" как у сумасшедших, алкашей и наркоманов (которых влечет неподконтрольная им "мистическая сила", тащит вопреки их воле и разуму, а потом - "горькое похмелье" и больше ничего)???
Человек "не способный контролировать свои эмоции" считается обычно "больным" и ... "добрые люди" их лечат, порой принудительно... :(

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Вы же программист, неужели Вы видели хоть одну программу, которая хоть раз до чего-нибудь "додумалась" сама?

А вы видели много людей, которые до чего-то додумались сами? :)
Ваша фраза - субъективная идеализация ситуации в чистом виде.

В первом приближении, мозг человека принимает информацию, обучается предсказывать последующие патерны входящей информации по предыдущим, имеет изначально заложенные алгоритмы, выполняющие расчет целевых функций и ведет постоянный вычислительный процесс по подготовке программ действий для каждой возможной ситуации, позволяющих достигать максимума целевых функций. Что в этом мистического?

Только то, что в этой схеме мы знаем как реализовать только часть компонентов. Ну так не все сразу.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> А вы видели много людей, которые до чего-то додумались сами?

Да, Вас например. Вы же "додумались сами" мне ответить? :)
Я не видел ни одного даже "умалишенного", который хоть до чего-нибудь не додумался бы сам (хоть бы и до того, что он = Наполеон). И не видел ни одной улитки, которая сама бы не додумалась, как добраться до собачьих фекалий в детской песочнице.

> Ваша фраза - субъективная идеализация ситуации в чистом виде.

На чем основан Ваш вывод, поясните пожалуйста.

> В первом приближении, мозг человека принимает информацию, обучается предсказывать последующие патерны входящей информации по предыдущим, имеет изначально заложенные алгоритмы, выполняющие расчет целевых функций и ведет постоянный вычислительный процесс по подготовке программ действий для каждой возможной ситуации, позволяющих достигать максимума целевых функций. Что в этом мистического?
Только то, что в этой схеме мы знаем как реализовать только часть компонентов. Ну так не все сразу.

Мистика - в "предсказаниях".
Предсказывают только мистификаторы (гадалки, пророки, астрологи и т.п.), нормальные (в "мистическом" смысле) люди - ставят себе задачу и разрабатывают план ее выполнения на основе известных им закономерностей (которые Вами же далее и описаны), т.е. накопленного "опыта". Я, например, "предсказаниями" не пользуюсь и мне это не мешает ничуть (так даже жить интереснее, без них). При автоматизации любой фирмы так или иначе решаю задачу планирования, Вам подсказать как ее запрограммировать?
Я не наблюдаю в описанной Вами "алгоритмической схеме интеллекта" ничего, что хороший программист не смог бы реализовать прямо сегодня (кроме реально мистических "предсказаний", но их можно заменить на "разумное планирование" и "целеуказание"). Что Вам мешает запрограммировать ИИ (Вам подсказать, как можно запрограммировать то, что Вы описали)???

Есть более простой пример - музыка и стихи.
Люди умеют создавать и то и другое, причем стихи пишут почти все, а музыку - лишь немногие (пусть и посредственно в массе случаев). Компьютерную музыку Вы сами, уверен, слышали неоднократно (не особо весть что, но слушать можно, а некоторые даже "тащатся" от нее). Почему нет компьютерных стихов? Вы не пробовали написать программу для стихов? :)
А в чем столь непреодолимая разница между музыкой и стихами (не задавались таким вопросом)?
- Я задавался и анализировал... Когда человек слушает музыку, то смыслы и эмоции в нее он вкладывает сам (один представляет море, другой - лес, третий - давку в метро и т.п.), а вот в стихи смысл и эмоции должен вложить автор... Попробуйте написать прог. и... увидите воочию ту непреодолимую пропасть (зримую мной), которую нужно преодолеть "создателям ИИ" (как раз то, чего в Вашей "схеме" не отражено, увы). Это не так трудно, как на первый взгляд кажется...

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Да, Вас например. Вы же "додумались сами" мне ответить? :)
> Я не видел ни одного даже "умалишенного", который хоть до чего-нибудь не додумался бы сам (хоть бы и до того, что он = Наполеон). И не видел ни одной улитки, которая сама бы не додумалась, как добраться до собачьих фекалий в детской песочнице.

Никто не может нидочего додуматься. Мы можем только чуть-чуть улучшать способность имитации мира на основании новой информации и тривиальным образом корректировать свои программы поведения.

Давайте конкретнее. Обезъяну учат тушить костер набирая воду в колодце. Обезъяну садят на плот и зажигают костер на плоту. Обезъяна плывет к колодцу за водой...
Разве она ведет себя "разумно"? Нет, она ведет себя как запрограммированный автомат.
Другой пример: обезъяне дают ящик и палку. Нужно воспользоваться ими чтобы сбить банан. Простейшая задача. Решает она эту задачу? Только если это очень умная обезъяна и только если у нее уже были навыки использования предметов (т.е. если мозгу оставалось только чуть чуть подкорректировать уже имеющуюся программу). Это Обезьяна с миллиардами нейронов, без миллиона лет эволюции человек.
Вы ожидаете, что алгоритм, который мы написали на колене от лампочки сразу решил бы эти задачи? Это несерьезно.

> И не видел ни одной улитки, которая сама бы не додумалась, как добраться до собачьих фекалий в детской песочнице.

Поведение улитки шаблонно и генетически прошито.
Вы считаете, что нельзя создать робота, который искал бы феклии в песочнице? Хороший коллектив специалистов, лет 20 работы и они выдадут нечто похожее. Ну и эволюция искала алгоритм для улитки миллиард лет.

> Предсказывают только мистификаторы (гадалки, пророки, астрологи и т.п.), нормальные (в "мистическом" смысле) люди - ставят себе задачу и разрабатывают план ее выполнения на основе известных им закономерностей (которые Вами же далее и описаны), т.е. накопленного "опыта".

Постановка задачи и план - это скорее шум от работы машины, нежели работа.
Вся работа выполняется в подсознании. Нейронная сеть мозга способна по начальным условиям генерировать картину развития событий без всякого планирования. Не этим ли она занимается во сне? Все, что ей остается для решения задачи - сгенерировать серию вариантов развития событий и отобрать вариант с наибольшим значением целевой функции. Детали этого процесса не сохраняются в памяти и следовательно не осознаются. Они просто не нужны. Пока вы занимаетесь планированием и постановкой задачи мозг занимается как раз тем, что я написал. Когда он готов - решение само всплывает в вашем сознании из неоткуда. Разве не так?
Вам не кажется, что простой перебор нескольких вариантов может дать решение, которое выглядело бы осмысленным? А он и не дает, см. примеры с обезъяной :).
Вся наша хваленая разумность заключается в способности сделать шаг на миллиметр от уже имеющегося стереотипа поведения и то только в благоприятных условиях.

> Есть более простой пример - музыка и стихи.

Куда уж проще :). Я бы сперва решил вопросы типа банана.

Хотя, со стихами тоже особой мистики я не вижу. Понятно, что некоторые патерны входной информации оказывают на мозг стимулирующее воздействие. Почему - это преждевременный вопрос. Мозг некоторых людей способен выполнять работу по подбору таких патернов - эти и есть творческие личности. Это скажем так, самая верхушка загадки интеллекта. Я бы туда не лез.

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Я не наблюдаю в описанной Вами "алгоритмической схеме интеллекта" ничего, что хороший программист не смог бы реализовать прямо сегодня (кроме реально мистических "предсказаний", но их можно заменить на "разумное планирование" и "целеуказание"). Что Вам мешает запрограммировать ИИ (Вам подсказать, как можно запрограммировать то, что Вы описали)???

Почему не видите? Обычная нейронная сеть способна обучаться предсказанию недостающей части массива информации по заданной входной части. Разве это не предсказание будущего развития событий? Как этот процесс сделать стабильным во времени? Не знаю. Как добиться, чтобы распознавались сложные образы а не банальная экстраполяция? Очень изощренным подбором алгоритма. Вы почитайте как устроен мозг. В нем есть центры для распознания горизонтальных полосок и т.д. Это не так просто - это миллиар лет эволюции.

Расчет целевой функции - это не сложно. Достаточно принять в качестве ЦФ раздражение определенных нервов.

Отбор программ? Берем начальный запрограммированный набор программ действий, которые инициируются при распознавании нейронной сетью определенных ситуаций.
Далее, организуем эволюционный отбор этих программ с мутациями, скрещиванием похожих и порождением новых. Получаем постепенное развитие списка программ по мере решения задач. Каждая программа периодически обкатывается в подсознании на герерированной реальности. Плохое решение задач заставляет программу более активно модифицироваться и чаще опробоваться. Кроме того, программа обрабатывается чаще, если она чаще используется.

То, что я описал не будет работать? Конечно не будет :).
Мы еще не понимаем множество принципов с которыми надо разобраться и которые могут сделать подобную систему устойчивой и эффективной.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

Вы похоже не поняли меня... Я говорил, что в Вашей "схеме" ИИ я не вижу ничего, что нельзя было бы запрограммировать.
Ну да, "нейронная сеть" (живая, в мозгу) может решать задачи при неполноте уловий и инфы для "правильного" решения. Это я вижу...
Я не вижу КАК она это делает (чтобы повторить в ИИ). Разницу понимаете?
Одни гипотезы... Я читаю, причем вот такие "книжки": http://planeta.rambler.ru/community/keorlin/132331367.html?reply=1&parent_id=132393985#comment
И там ничего такого нет, что так уверенно излагаете Вы... Ведущие ученые мира (всю жизнь изучавшие работу ЦНС) разводят руками - "мы не знаем как оно работает", а Вы знаете, это удивляет, как минимум...

> Расчет целевой функции - это не сложно. Достаточно принять в качестве ЦФ раздражение определенных нервов.

Мы говорим об ИИ. Как обучить ребенка я знаю не по наслышке (опыт имею), причем без "раздражения определенных нервов" (я не садист).

> Отбор программ? Берем начальный запрограммированный набор программ действий, которые...

Вы попробуйте, ну хоть один раз... Я то пробовал почти 20 лет и отчаялся. Может быть у Вас получится? - Я ж "до небес подпрыгну" от радости... Гипотезами и теориями сыт по горло (либо они "нерабочие", либо я тупой, но неужели все тупые, ведь не один я мучался?)... :(

> Мы еще не понимаем множество принципов с которыми надо разобраться...

Каких Вы не понимаете? - Назовите хоть один, я постараюсь помочь понять (зря что ли 20 лет х..й страдал?)...

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Ну да, "нейронная сеть" (живая, в мозгу) может решать задачи при неполноте уловий и инфы для "правильного" решения.

Я и имел ввиду алгоритмическую реализацию нейронной сети. Элементарные задачи предсказания такие сети решают. Вопрос - как перейти к более сложным задачам.

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

> Никто не может нидочего додуматься. Мы можем только чуть-чуть улучшать способность имитации мира на основании новой информации и тривиальным образом корректировать свои программы поведения.

Пока вижу лишь гипотезу. В ней мне многое не понятно (вывод в начале опускаю, ибо вывод не может быть исходной посылкой - иначе гарантировано зацикливание):
- Что Вас сподвигло ответить (из Вами перечисленных "возможностей")? Может быть "эмоции"?
- Вы "имитируете мир", т.е. полагаете себя не человеком, а всей Вселенной? Или не удачно написали - "отражаете мир" (тогда в чем и чем "отражаете" не ясно)?
- Информация штука "тонкая", все зависит от "кочки зрения" (для одних мир - это только информация, для других - мир это хаотическая свалка, на которой можно найти инфу, "пропустив ощущения через себя", для третьих - мир это упорядоченный самой информацией склад информации в котором можно выделить инфу "пропустив ощущения через себя", для иных - мир есть иллюзия, ибо вся информация уже присутствует во мне изначально, но не вся мной "открыта" и т.п.). Поясните, пожалуйста, что для Вас мир, и как и откуда Вы получаете "новую информацию"?
Мое "предсказание": - скоро мы с Вами дойдем до места где Куайн У.В.О. сделал страшную ошибку в своих построениях: http://sprach-insel.com/index.php?option=com_content&task=view&id=127&Itemid=61 (не читали?).

> Вы считаете, что нельзя создать робота, который искал бы феклии в песочнице?
Можно и даже за пару месяцев, но ведь улитка ищет не только фекалии и не только в песочнице, а бывает и уходит от песочницы, где много "вкусных фекалий" (например, если ожидает жару днем). У нас много "роботов ищущих фекалии" уже создано (газоанализаторы, например), но нет ни одного, который делал бы это "осмысленно" и самостоятельно (как улитка).

> Откуда Вам известно о том, как работает мозг? Я вот только "отрывочные данные" имею, бессвязные о его работе. Ученые изучающие его работу всю жизнь - тоже "разводят руками"... :(
Что такое "сон" и зачем он нужен - тоже одни голые гипотезы, при проверке не подтверждающиеся "с пол пинка"...
Все "решения" которые я принимаю или нет всегда знаю как и на основе чего получены. Эмоции служат мне, а не я им (у меня "бессознательного" нет, но есть рефлекторика). К сожалению от этого пострадала "интуиция" (частично).

> Вам не кажется, что простой перебор нескольких вариантов может дать решение, которое выглядело бы осмысленным? А он и не дает, см. примеры с обезъяной :)

- Нет не даст, ибо вопрос не в количестве "вариантов" или "переборе", а в том КАК выбрать из них "лучший" и на основе чего?
Так эти Ваши примеры - хорошая иллюстрация к тому, что я писал в первом комментарии - к бессмысленной постановке задачи эксперимента. Обезьяну учили заливать огонь водой из колодца? Научили? Чем не довольны?
- Сдался ей этот огонь, она наверняка не поняла зачем ей его тушить, да еще и из колодца обязательно...
А зачем обезьяне "ящик и палка", когда ей проще залезть на пальму и там в безопасности трескать бананы?
Хотите я вам точно такие же примеры приведу среди людей (из "армейского быта", например)?

Да вроде бы нет в написании стихов никакой "мистики", они требуют "смысла", а как его "запрограммировать" - это уже реально мистика (Вам хотя-бы дефиниция смысла известна?)!

> Понятно, что некоторые патерны входной информации оказывают на мозг стимулирующее воздействие...

Так это и есть "главный вопрос" - почему одни "патерны стимулируют", а другие нет (а Вы его "шашкой на лихом коне"). Вы хоть пытались это понять (хоть бы и "интроспекцией")?

Re: Интеллект, ИИ и самообман

[muha-a.livejournal.com]

> Можно и даже за пару месяцев, но ведь улитка ищет не только фекалии и не только в песочнице, а бывает и уходит от песочницы, где много "вкусных фекалий" (например, если ожидает жару днем). У нас много "роботов ищущих фекалии" уже создано (газоанализаторы, например), но нет ни одного, который делал бы это "осмысленно" и самостоятельно (как улитка).

Что тут странного? Алгоритм подбирается эволюцией миллиард лет биллионами проб и ошибок. Вы желаете его переплюнуть, естесственно нужно поднапрячься и пердусмотреть все. И даже это гарантирует результат. Представьте, что вы запустили на миллиард лет сверх-супер компьютер, который используя некий очень удачный вариант генетического алгоритма (каковым является ситсема ДНК-РНК-белки...) сформировал наилучшую стратегию поведения улитки. Потом мы пытаемся здесь и сейчас найти решение не хуже просто усилием ума. Ничего странного, что ваш алгоритм будет не так хорош.
Но улитка - это неинтересно. Интересны когнитивные способности, присутствующие у более сложных животных.

> Все "решения" которые я принимаю или нет всегда знаю как и на основе чего получены. Эмоции служат мне, а не я им ...

Вот. При таком подходе к делу вы будете еще 500 лет создавать ИИ. По той простой причине, что вы задаетесь целью создать то, чего не существует в природе: существо, которое имеет свободу воли, принимает решение САМО и знает как оно их принимает. Т.е. господа бога а не ИИ. Ну а с эмоциями я вообще пацталом :). Эмоции служат вам для достиженива ваших целей. А цели вы где взяли?
Такой подход - антинаучная ересь, ведущая в никуда. Первым это понял наверно еще Демокрит (вещи типа не сладкие не соленые, а есть только пустота и атомы...).
Все успехи в науке связаны с прозрениями в направлении в котором указал демоктит, т.е. в искоренении навязчивой, как правило неосознанной, субъективной составляющей из мировоззрения.

> Так эти Ваши примеры - хорошая иллюстрация к тому, что я писал в первом комментарии - к бессмысленной постановке задачи эксперимента. Обезьяну учили заливать огонь водой из колодца? Научили? Чем не довольны?
- Сдался ей этот огонь, она наверняка не поняла зачем ей его тушить, да еще и из колодца обязательно...

Ато, если бы он ей зад подпаливал, то она сразу бы и доперла что делать - прыгала бы и кричала, а про ведро бы и не вспомнила.
Про миллиционера анекдот знаете? Ему дали ящик банан и палку, а он начал трясти дерево. Ему говорят "подумай", а он говорит - чего тут думать - трясти надо. Скажете это нереальная анекдотическая ситуация? Сколько раз мы с ней сталкиваемся ежедневно? Генерация новой модели поведения на пустом месте - это высший пилотаж для мозга. Обычно все ограничивается небольшой коррекцией прогрмм действия, которые отработаны 1000 раз.
Нейронная сеть мозга способна отражать очень сложные вещи. Это да. Но РАЗУМОЕ ПОВЕДЕНИЕ - это скорее самый пик достижения эволюции, нежели базовое свойство. Требовать от ИИ того, что нам самим удается с трудом (разумного поведения) на первых же этапах его создания - бессмысленно и лицемерно.

> Да вроде бы нет в написании стихов никакой "мистики", они требуют "смысла", а как его "запрограммировать" - это уже реально мистика (Вам хотя-бы дефиниция смысла известна?)!

Нет в природе такой вещи как смысл. Есть субъективное переживание смысла, но это вопрос философии а не программирования.


Попытаюсь резюмировать...

Допустим, вы наблюдаюте облака во время заката. В реальности есть атмосферные потоки разной температуры и влажности, пичудливо перемешивающиеся и играющие в лучах солнца. В итоге может возникнуть потрясающей красоты картина. Допустим вы задаетесь целью создать нечто подобное программно.
По логике, вам нужно моделировать движение атмосферных потоков и рендерить прохождение лучей света.
Но вы не желаете так действовать. Вы требуете, чтобы программист программировал не потоки воздуха а саму КРАСОТУ.
Т.е. ваше субъективное переживание от созерцания этой картины.
На деле, если модель будет достаточно точной, субъективное переживание появится само.

Re: Интеллект, ИИ и самообман

[dralkin.livejournal.com]

Жаркий у Вас разговор.
А почему Вы про решето не хотите ответить? Хороший вопрос же!

Re: Интеллект, ИИ и самообман

[sageserjant.livejournal.com]

Про Нью-Васюки уже выше написал...

> Но улитка - это неинтересно. Интересны когнитивные способности, присутствующие у более сложных животных.

А чем пчелы не устраивают (одна из групп биологов в России изучает), или "язык кальмаров" (две группы, одна из них из США)? :)

> 500 лет...Эмоции служат вам для достиженива ваших целей. А цели вы где взяли?

Я столько не проживу, помилуйте...
Есть восточная мудрость - "Мудрец никогда не скажет - я поставил себе цель". Разумный человек "ставит задачи", а "обыватель" - "преследует цели". Эмоции служат моему разуму, а не целям.

> ...Обычно все ограничивается небольшой коррекцией прогрмм действия...

Это не анекдот, можно почитать реальные протоколы и объяснительные - "...убегая от преступника сделал три выстрела задом...". А остальное Вы уже писали. Это видимо Ваша вера, вера "в торжество материалистической науки"?

> Нет в природе такой вещи как смысл. Есть субъективное переживание смысла, но это вопрос философии а не программирования.

Простите, но что такое "смысл" неплохо представляю, только высказать не могу... А вот что такое "субъективное переживание смысла" для меня более чем загадка, ибо смысл не объект, а сам что-то типа "переживания"...

"Красота" сугубо субъективна, это не удачный пример. Хотя в целом Вашу мысль вроде бы понял. - Вы подозреваете что я "гоняюсь за химерами" (решаю задачу в бессмысленной постановке)?
Покажите, если не затруднит, в чем Вы узрели (конкретно) бессмысленность (хотя бы как я Вам на примере обезьяны и костра). Сможете (напрямую, без аналогий)?

Извините, отвечу завтра... Нужно выспаться. :)