Гёделизация и парадокс марионетки (ПМ).
Dec. 30th, 2013 09:46 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
hitthelimit«Именно математика дает нам самое явное свидетельство тому, что процессы сознательного мышления включают в себя нечто, не доступное вычислению».
Пенроуз, «Тени разума».
Существует тонкий момент в понимании сущности ПМ. Уместным предисловием к этой проблеме можно считать книгу Пенроуза «Тени разума», в которой автор пытается всесторонне обосновать точку зрения, согласно которой человеческое мышление не является алгоритмической деятельностью.
Прежде любых алгоритмов и математики должна иметь место формализация¹. Основываясь на этом утверждении, я собираюсь показать связь между возможностью геделизации и пониманием ПМ.
Сначала обратим внимание на классический вопрос о возможности ИИ. Споры на эту тему неизменно заходят в тупик, и на сегодняшний день считаются в какой-то мере бессмысленными в профессиональных сферах. Со временем стало ясно, что на стороне человеческого интеллекта находится некий механизм, копирование которого алгоритмическими методами (а иные пока что не рассматриваются всерьез) на вычислительных машинах представляется невозможным. То, что Пенроуз в поисках возможного механизма неалгоритмической основы мышления дошел до квантового порога (макроскопические эффекты квантовой когерентности в микротрубочках нейронов), является на мой взгляд примечательным событием.
Такой подход для начала позволяет понять, что первичная разница между мышлением и его алгоритмическим симулированием лежит в способе выделения системы. Есть некоторая сложность понимания того, что алгоритмические экстраполяции в приложении к конструктам нашего мышления, таким, как системы ИИ, и собственно мышление — это процессы, использующие разные механизмы формализации. При этом первые можно назвать вторичными по отношению ко вторым.
Что это за механизмы формализации? Человеческие мышление маркирует все то, что уже формализовано, но каков механизм первичной формализации? Проблемы с ИИ начинаются тогда, когда становится понятно, что семантика собственной формализации, выполненной ИИ, никогда не будет признана совместимой с человеческой. Ранее я указывал на эту проблему на примере интеллекта дельфинов. Сегодня предпочитают говорить о прикладных горизонтах вычислительных систем, а не о «совместимости» интеллектов.
Я хочу обратить внимание на «ускользающую каузальность» в сфере психической активности человека в противовес «заданной каузальности» ИИ. Как только мы допускаем тот же механизм «ускользающей казуальности» для ИИ, то приходим к разрыву в интеллектуальной совместимости. Исходное же стремление человека навязать ИИ алгоритмическую основу, копирующую наше мышление, ожидаемо заводит нас в тупик.
Что я понимаю под «ускользающей каузальностью»?
Вспомним, как мы выделяем систему — мы делаем это произвольно, руководствуясь неким пред-заданным списком системообразующих факторов. Это настолько динамическая и условная операция, что она вместе со своей формализующей мощью сплошь и рядом вводит нас в заблуждение. В случаях с хорошо описанными функциями системы мы склонны забывать, что система выделена/ограничена условно. Самыми яркими примерами такого заблуждения являются человеческое мышление и идея ИИ. (Разумеется, их на самом деле очень много.) Удивительно, что очевидная неполнота описания столь сложных систем не настораживает нас, заставляя задаться простым вопросом: как именно мы ограничили систему, и не выплеснули ли мы вместе с грязной водой ребенка?
Компьютер является очень хорошим примером функционального выделения системы: мы без проблем, в соответствии с обстоятельствами, выделяем локальный софт, облачный софт, «железо», при случае можем мыслить это все вместе как единую систему, а иногда включаем туда и пользователя. Тем не менее, в случае с компьютером ограничения вроде как очевидны. Например, программы не могут само-модифицироваться неким неучтенным программистом образом. «Железо» не должно влиять на исполнение программ. И так далее. Эта «заданная каузальность» - случай, когда выход за пределы ограничений не предусматривается. Неполнота описания по Геделю для таких систем нас не напрягает до тех пор, пока не поднимается вопрос о конкуренции их с естественным интеллектом.
В случае с нашим мышлением дело обстоит не так просто.
Для психики/мышления система описана не полностью, и полный список ее системообразующих факторов не может быть составлен в принципе — в этом вся соль. Начнем с того, что список этот огромен, и некоторые его составляющие находятся в противоречии между собой по признаку соответствия какой-то одной, целостной формальной системе — совсем не так, как в случае компьютера, где малейшее отклонение от единой формальной концепции приводит к прекращению функции в целом.
Мозг сам составляет свой системообразующий список, исходя из имеющихся в его распоряжении формализаций. Однако мозг не делает эти формализации произвольным — читай доступным его анализу (да что там анализу — просто внутреннему отражению) - способом. Поэтому я называю каузальность мышления «ускользающей».
Причина этого, надо понимать, кроется в конструкции аппарата мышления как вычислительной машины — она принципиально иная, чем те концепции вычислительных машин, которые создает сам мозг. Если назвать способ нашего мышления «гёделизирующим», то системы, спроектированные им, не могут быть «гёделизирующими» без того, чтобы привести к неустранимому семантическому разрыву в коммуникации между ними. Тем не менее, они могут быть в принципе «гёделизирующими», ибо, как верно заметил профессор Преображенский «...Зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно?». Разумеется, если мышление считать причастным к запуску процесса, приводящего к такому результату :)
Иными словами, если в систему включена вся ее структура, не ограниченная пред-заданным функциональным набором, то в такой системе не исключен процесс «гёделизации». Но так далеко сегодня мыслители пока что идти отказываются — сказывается тяжелое наследие дихотомического мышления и общепринятая в науке (но фундаментально порочная) концепция «наблюдателя»
Вернемся теперь к ПМ.
Его формальное представление в системе возникает только тогда, когда система может формализовать представление о себе как о части целого, в которое она входит. Представление о ПМ приводит (автоматически сопряжено) к требованию неограниченной гёделизации. Именно к этому удивительному феномену я обращаюсь в данном тексте.
Если в математике гёделизация ведет к расширению мощности описания, то в приложении к реальным системам это обозначает расширение списка системообразующих факторов за счет выявления более базовых элементов каузальной цепочки в функциональности системы. В качестве простой модели подойдет прямая линия с условной разделительной точкой, с одной стороны которой находятся формализации функций системы, уходящие вдаль от точки по мере увеличения степени их участия в разнообразных манипуляциях (сочетаниях), с другой стороны, для системы находится терра инкогнита, которая, однако, поставляет новые формализации за счет сдвига точки вглубь неизвестности.
Это совершенно примечательная модель, так как она не предусматривает никакого каузального действия со стороны имеющихся формализаций. Причина движения точки, если таковое происходит, никак не связано с формальной проявленностью системы, иными словами — с самой системой. Смещать точку — не наш свободный выбор.
Поэтому, не имеет никакого значения, где мы (система) поместим источник неалгоритмических функций мышления — в микротрубочках или где-то еще. Как только мы его где-то поместим, то обнаружим сдвиг точки, новый набор формализаций, но ПМ останется там же и в том же виде, что и раньше. Программа Пенроуза обречена на неудачу, во всяком случае, в ее философском аспекте. В математическом, впрочем, тоже.
В сфере интереса системы, имеющей представление о ПМ, таким образом, остается только движение точки-терминатора. Так как же быть с «пониманием» ПМ? ПМ «понимается» только тогда, когда происходит сдвиг точки, и только на это время. Приток новых формализаций в данном случае и есть понимание.
Я думаю, и этой мысли посвящен весь мой журнал, что движение точки-терминатора в сторону порождающей системный формализм каузальности является глобальным эволюционным процессом в проявленной реальности. Это не циклическая эволюция, это исполняющаяся математическая функция, имеющая предел. Нас сбивает с толку то, что нам кажется - исполнение носит и статистический, и вообще редкий на сегодняшний день характер. Статистичность (и кажущаяся хаотичность) процесса заставляет некоторых думать, что это не строго направленный процесс. А трудность его наблюдения и вовсе позволяет о нем не думать.
Между тем, расширение списка системообразующих факторов мышления человека, взятое де-факто на фоне реальной активности человека, а не как список-по-соглашению среди узких специалистов, слишком очевидным образом связан с комплексными изменениями в социуме, которые дали основание говорить о приближающейся сингулярности.
Вызывает удивление, что даже устраивая международные конференции по сингулярности, вопрос о вычислении фундаментальных причин происходящего неизменно сводят в лучшем случае к легко отслеживаемым причинам человеческой активности, что тривиально, а в худшем — к фантазиям на тему о радужных перспективах «после». Мне это чем-то напоминает веру в загробную жизнь.
¹Формализацией я называю здесь само-манифестацию, которая может быть включена в дальнейшие (более высокого уровня) само-манифестации. Так, на сегодняшний день нам не известны системы, которые бы включали в себя в формально описуемом виде волновые функции, и мы вынуждены включать только их статистическое описание. То же, что является каузальным для ВФ, и вовсе не подлежит пока никакому описанию. («Описание» - включенность в само-манифестацию (См. предыдущий пост)).
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2014-01-01 07:59 pm (UTC)Огласите тогда, пожалуйста, весь список - что вместо чего он называет, поскольку придется много чего переименовывать, чтобы в этом появился хоть какой-то смысл.
Если вместо "аксиомы" написать "теоремы", то степень бреда только увеличится. Так, например, что тогда означает фраза:
"добавить к ней высказывание G (F) в качестве новой
аксиомытеоремы и получить тем самым новую систему fi , которая также будет считаться обоснованнойВ чем здесь сермяжный смысл?
== А трансфинитная индукция все таки ни разу не означает наличия конечного, то есть выполнимого на машине Тьюринга за конечное время алгоритма.
Конечно. Так же, как и финитная индукция не означает наличия выполнимого за конечное время алгоритма. Если Вы, конечно, не называете "индукцией" и "алгоритмом" что-то мне неведомое :)
no subject
Date: 2014-01-04 08:40 am (UTC)В чем здесь сермяжный смысл?==
- Ну, не надо из Пенроуза совсем уж дурака делать! Здесь он подразумевает именно новую аксиому, а не теорему. Но в общем, в тексте не различает аксиомы и теоремы, да и сам текст не строго математический а научно-популярный. Впрочем, на выводы эта некоторая путаница с терминами никак не влияет, так как сам он судя по всему, вполне себе различает, где утверждения, введённые непосредственно (аксиоматически), а где - выводимые посредством других (теоремы).
==Так же, как и финитная индукция не означает наличия выполнимого за конечное время алгоритма. ==
- Финитная - допускает, а трансфинитная - не предполагает наличия машинного алгоритма для её реализации в принципе.
no subject
Date: 2014-01-04 09:11 am (UTC)Дык, я именно так это и понимал. Это же Вы стали делать из П. дурака, говоря, что он своих терминов не понимает :)
Почему это чушь, если понимать под аксиомами аксиомы, я уже здесь объяснял пару раз, так что повторяться не буду.
== а трансфинитная - не предполагает наличия машинного алгоритма для её реализации в принципе.
У Вас тут путаница некоторая. Индукция, любая, не предполагает машинной реализации, она не для этого, а только для построения рассуждения - доказательства.
Если говорить о машине Тьюринга, то это просто один из способов формализации рассуждения (доказательства) Причем любая формализация имеет смысл только в жестко заданных границах (которые с реальностью не коррелируют, совсем)
Поэтому (в частности) алгоритмы машины Т. к реальному программированию никакого отношения не имеют. Это я Вам как реальный программист говорю :) Так что если надо будет запрограммировать рассуждение, использующее трансфинитную индукцию, то никаких проблем, эта задача ничем не отличается от программирования обычной индукции.
no subject
Date: 2014-01-04 10:03 am (UTC)Насчёт: ==У Вас тут путаница некоторая. Индукция, любая, не предполагает машинной реализации, она не для этого, а только для построения рассуждения - доказательства. ==
- Путаница похоже не у меня, а у того, кто соскальзывает с вопроса о реализуемости человеческих рассуждений на машине к вопросу о возможности непротиворечивых рассуждений (доказательств), как таковых.
==если надо будет запрограммировать рассуждение, использующее трансфинитную индукцию, то никаких проблем, эта задача ничем не отличается от программирования обычной индукции. ==
- И какими натуральными числами (в машинных кодах) обозначите трансфиниты?
no subject
Date: 2014-01-04 03:43 pm (UTC)Я ничего не знаю про Пенроуза и ничего против него не имею.
Я обсуждаю конкретный текст (который есть бред), а какое отношение к этому тексту имеет П. меня не интересует, пусть прокуратура разбирается :)
== Путаница похоже не у меня, а у того, кто соскальзывает с вопроса о реализуемости человеческих рассуждений на машине к вопросу о возможности непротиворечивых рассуждений (доказательств), как таковых.
Что значит "соскальзывает"? Я это как раз различаю. В отличие от некотроых
И какими натуральными числами (в машинных кодах) обозначите трансфиниты?
В машинных кодах давно никто не программирует :) А трансфинитные ординалы - это просто символы, с набором операций, которые на них заданы (с точки зрения синтаксиса и прагматики). Существенно более простые в программировании, нежели чем, скажем, слова обыденного языка.
Обозначить же можно как угодно, это вообще не имеет никакого значения.
no subject
Date: 2014-01-04 05:33 pm (UTC)- Это - человеческая интерпретация, а для машины доступны лишь последовательности единиц и нулей, то есть - натуральные (рациональные, если с запятой) числа. И никак иначе, чем таким числом, машина изобразить трансфинит не может. Представьте, что человечество вымерло, остались одни машины, кто объяснит машине смысл понятия "трансфинит"? и главное как? :)
no subject
Date: 2014-01-04 05:52 pm (UTC)Нет не натуральные, а именно последовательности единиц и нулей. Натуральные - это человеческая интерпретация :)
Так же как и типографскому станку доступны только 32 буквы и еще десяток символов. Впрочем, в наше время это всё уже тоже нули и единицы.
И знаете, наряду с тоннами чуши, типографский станок выдает порой гениальные вещи. В том числе и доказательства, использующие трансфинитную индукцию.
А ведь это всего лишь нули и единицы.
no subject
Date: 2014-01-04 06:56 pm (UTC)no subject
Date: 2014-01-04 07:00 pm (UTC)== являются наши интерпретации, использующие трансфинитную индукцию, в том числе.
Не, интерпретации индукцию не используют. Понятие индукции могут использовать, это да.
А индукцию используют только доказательства.
no subject
Date: 2014-01-04 07:03 pm (UTC)- Угу, вот и чудненько, наконец-то мы пришли к тому, с чего начали: понимание доступно лишь человеческому сознанию, компьютер - всего лишь совершенная пишущая машинка.
no subject
Date: 2014-01-04 07:11 pm (UTC)Человек - такая же машина из нейрончиков. Ему понимание не доступно.
no subject
Date: 2014-01-05 02:46 pm (UTC)- Согласен с импликацией: если человек - машина, то ему понимание не доступно.
no subject
Date: 2014-01-10 12:57 pm (UTC)Точно так же, как и: если комп - печатная машинка, то понимание ему недоступно.
no subject
Date: 2014-01-10 09:33 am (UTC)no subject
Date: 2014-01-10 09:38 am (UTC)Здесь говорится только про машинку из нейрончиков, а не о Вас.
no subject
Date: 2014-01-04 07:14 pm (UTC)no subject
Date: 2014-01-05 01:54 pm (UTC)no subject
Date: 2014-01-05 01:58 pm (UTC)no subject
Date: 2014-01-05 02:16 pm (UTC)no subject
Date: 2014-01-05 02:28 pm (UTC)no subject
Date: 2014-01-05 02:44 pm (UTC)- Согласен.
==Значит, под понимание вы имеете в виду нечто иное.==
- Но Вы же не ограничиваетесь...
no subject
Date: 2014-01-05 02:52 pm (UTC)no subject
Date: 2014-01-06 06:26 am (UTC)no subject
Date: 2014-01-06 09:46 pm (UTC)no subject
Date: 2014-01-08 05:18 am (UTC)