Гёделизация и парадокс марионетки (ПМ).

[hitthelimit]

«Именно математика дает нам самое явное свидетельство тому, что процессы сознательного мышления включают в себя нечто, не доступное вычислению».

Пенроуз, «Тени разума».

 

Существует тонкий момент в понимании сущности ПМ. Уместным предисловием к этой проблеме можно считать книгу Пенроуза «Тени разума», в которой автор пытается всесторонне обосновать точку зрения, согласно которой человеческое мышление не является алгоритмической деятельностью.

Прежде любых алгоритмов и математики должна иметь место формализация¹. Основываясь на этом утверждении, я собираюсь показать связь между возможностью геделизации и пониманием ПМ.

Сначала обратим внимание на классический вопрос о возможности ИИ. Споры на эту тему неизменно заходят в тупик, и на сегодняшний день считаются в какой-то мере бессмысленными в профессиональных сферах. Со временем стало ясно, что на стороне человеческого интеллекта находится некий механизм, копирование которого алгоритмическими методами (а иные пока что не рассматриваются всерьез) на вычислительных машинах представляется невозможным. То, что Пенроуз в поисках возможного механизма неалгоритмической основы мышления дошел до квантового порога (макроскопические эффекты квантовой когерентности в микротрубочках нейронов), является на мой взгляд примечательным событием.

Такой подход для начала позволяет понять, что первичная разница между мышлением и его алгоритмическим симулированием лежит в способе выделения системы. Есть некоторая сложность понимания того, что алгоритмические экстраполяции в приложении к конструктам нашего мышления, таким, как системы ИИ, и собственно мышление — это процессы, использующие разные механизмы формализации. При этом первые можно назвать вторичными по отношению ко вторым.

Что это за механизмы формализации? Человеческие мышление маркирует все то, что уже формализовано, но каков механизм первичной формализации? Проблемы с ИИ начинаются тогда, когда становится понятно, что семантика собственной формализации, выполненной ИИ, никогда не будет признана совместимой с человеческой. Ранее я указывал на эту проблему на примере интеллекта дельфинов. Сегодня предпочитают говорить о прикладных горизонтах вычислительных систем, а не о «совместимости» интеллектов.

Я хочу обратить внимание на «ускользающую каузальность» в сфере психической активности человека в противовес «заданной каузальности» ИИ. Как только мы допускаем тот же механизм «ускользающей казуальности» для ИИ, то приходим к разрыву в интеллектуальной совместимости. Исходное же стремление человека навязать ИИ алгоритмическую основу, копирующую наше мышление, ожидаемо заводит нас в тупик.

Что я понимаю под «ускользающей каузальностью»?

Вспомним, как мы выделяем систему — мы делаем это произвольно, руководствуясь неким пред-заданным списком системообразующих факторов. Это настолько динамическая и условная операция, что она вместе со своей формализующей мощью сплошь и рядом вводит нас в заблуждение. В случаях с хорошо описанными функциями системы мы склонны забывать, что система выделена/ограничена условно. Самыми яркими примерами такого заблуждения являются человеческое мышление и идея ИИ. (Разумеется, их на самом деле очень много.) Удивительно, что очевидная неполнота описания столь сложных систем не настораживает нас, заставляя задаться простым вопросом: как именно мы ограничили систему, и не выплеснули ли мы вместе с грязной водой ребенка?

Компьютер является очень хорошим примером функционального выделения системы: мы без проблем, в соответствии с обстоятельствами, выделяем локальный софт, облачный софт, «железо», при случае можем мыслить это все вместе как единую систему, а иногда включаем туда и пользователя. Тем не менее, в случае с компьютером ограничения вроде как очевидны. Например, программы не могут само-модифицироваться неким неучтенным программистом образом. «Железо» не должно влиять на исполнение программ. И так далее. Эта «заданная каузальность» - случай, когда выход за пределы ограничений не предусматривается. Неполнота описания по Геделю для таких систем нас не напрягает до тех пор, пока не поднимается вопрос о конкуренции их с естественным интеллектом.

В случае с нашим мышлением дело обстоит не так просто.

Для психики/мышления система описана не полностью, и полный список ее системообразующих факторов не может быть составлен в принципе — в этом вся соль. Начнем с того, что список этот огромен, и некоторые его составляющие находятся в противоречии между собой по признаку соответствия какой-то одной, целостной формальной системе — совсем не так, как в случае компьютера, где малейшее отклонение от единой формальной концепции приводит к прекращению функции в целом.

Мозг сам составляет свой системообразующий список, исходя из имеющихся в его распоряжении формализаций. Однако мозг не делает эти формализации произвольным — читай доступным его анализу (да что там анализу — просто внутреннему отражению) - способом. Поэтому я называю каузальность мышления «ускользающей».

Причина этого, надо понимать, кроется в конструкции аппарата мышления как вычислительной машины — она принципиально иная, чем те концепции вычислительных машин, которые создает сам мозг. Если назвать способ нашего мышления «гёделизирующим», то системы, спроектированные им, не могут быть «гёделизирующими» без того, чтобы привести к неустранимому семантическому разрыву в коммуникации между ними. Тем не менее, они могут быть в принципе «гёделизирующими», ибо, как верно заметил профессор Преображенский «...Зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно?». Разумеется, если мышление считать причастным к запуску процесса, приводящего к такому результату :)

Иными словами, если в систему включена вся ее структура, не ограниченная пред-заданным функциональным набором, то в такой системе не исключен процесс «гёделизации». Но так далеко сегодня мыслители пока что идти отказываются — сказывается тяжелое наследие дихотомического мышления и общепринятая в науке (но фундаментально порочная) концепция «наблюдателя»

Вернемся теперь к ПМ.

Его формальное представление в системе возникает только тогда, когда система может формализовать представление о себе как о части целого, в которое она входит. Представление о ПМ приводит (автоматически сопряжено) к требованию неограниченной гёделизации. Именно к этому удивительному феномену я обращаюсь в данном тексте.

Если в математике гёделизация ведет к расширению мощности описания, то в приложении к реальным системам это обозначает расширение списка системообразующих факторов за счет выявления более базовых элементов каузальной цепочки в функциональности системы. В качестве простой модели подойдет прямая линия с условной разделительной точкой, с одной стороны которой находятся формализации функций системы, уходящие вдаль от точки по мере увеличения степени их участия в разнообразных манипуляциях (сочетаниях), с другой стороны, для системы находится терра инкогнита, которая, однако, поставляет новые формализации за счет сдвига точки вглубь неизвестности.

Это совершенно примечательная модель, так как она не предусматривает никакого каузального действия со стороны имеющихся формализаций. Причина движения точки, если таковое происходит, никак не связано с формальной проявленностью системы, иными словами — с самой системой. Смещать точку — не наш свободный выбор.

Поэтому, не имеет никакого значения, где мы (система) поместим источник неалгоритмических функций мышления — в микротрубочках или где-то еще. Как только мы его где-то поместим, то обнаружим сдвиг точки, новый набор формализаций, но ПМ останется там же и в том же виде, что и раньше. Программа Пенроуза обречена на неудачу, во всяком случае, в ее философском аспекте. В математическом, впрочем, тоже.

В сфере интереса системы, имеющей представление о ПМ, таким образом, остается только движение точки-терминатора. Так как же быть с «пониманием» ПМ? ПМ «понимается» только тогда, когда происходит сдвиг точки, и только на это время. Приток новых формализаций в данном случае и есть понимание.

Я думаю, и этой мысли посвящен весь мой журнал, что движение точки-терминатора в сторону порождающей системный формализм каузальности является глобальным эволюционным процессом в проявленной реальности. Это не циклическая эволюция, это исполняющаяся математическая функция, имеющая предел. Нас сбивает с толку то, что нам кажется - исполнение носит и статистический, и вообще редкий на сегодняшний день характер. Статистичность (и кажущаяся хаотичность) процесса заставляет некоторых думать, что это не строго направленный процесс. А трудность его наблюдения и вовсе позволяет о нем не думать.

Между тем, расширение списка системообразующих факторов мышления человека, взятое де-факто на фоне реальной активности человека, а не как список-по-соглашению среди узких специалистов, слишком очевидным образом связан с комплексными изменениями в социуме, которые дали основание говорить о приближающейся сингулярности.

Вызывает удивление, что даже устраивая международные конференции по сингулярности, вопрос о вычислении фундаментальных причин происходящего неизменно сводят в лучшем случае к легко отслеживаемым причинам человеческой активности, что тривиально, а в худшем — к фантазиям на тему о радужных перспективах «после». Мне это чем-то напоминает веру в загробную жизнь.

¹Формализацией я называю здесь само-манифестацию, которая может быть включена в дальнейшие (более высокого уровня) само-манифестации. Так, на сегодняшний день нам не известны системы, которые бы включали в себя в формально описуемом виде волновые функции, и мы вынуждены включать только их статистическое описание. То же, что является каузальным для ВФ, и вовсе не подлежит пока никакому описанию. («Описание» - включенность в само-манифестацию (См. предыдущий пост)).

 

Comments

[kaktus77.livejournal.com]

== Кажется, приведенная выше цитата из Пенроуза отвечает на ваш вопрос.

У П. здесь незамутненный наукообразный бред. Практически, клинический.
Хотя, возможно, и переводчик поучаствовал, это надо всегда иметь в виду.

Если Вам интересно, могу конкретно расписать, что смешалось в его воспаленном мозгу и в каких пропорциях. Но в следующем году :)

С Новым годом!

[hitthelimit.livejournal.com]

С Новым годом!