![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
hitthelimitВозьмем синтаксически правильное предложение, например: «По улице идет человек». Имеет ли оно истинностное значение? Априори это неизвестно и неустановимо исходя из самого предложения. Требуется интерпретация этого предложения для установления истинностных значений относительно всех составляющих его элементов (что такое улица, какая улица, что значит «идти», что такое человек и так далее). Но и после этого значение истинности не будет установлено строго, потому что исходно и далее используется метаязык, а не формальный язык. Можно сказать, что интерпретация считается приемлимой в том случае, когда используемый ею язык по соглашению считается (псевдо)формальным.
Если бы не последнее обстоятельство, то невозможной бы оказалась сама коммуникация среди людей. Несогласие в степени приемлимости текущего формализма интерпретаций являются причиной всех искренних споров среди людей.
Однако, как это водится в теме неполноты формальных систем, очевидная ясность логики оборачивается когнитивным кошмаром реальности.
Для начала задумаемся: нуждаются ли в интрерпретациях формальные системы? За исключением присущей им неполноты, формальные системы порождают утверждения, истинностное значение которых устанавливается однозначно (в случае вычислимости). Зачем их интерпретировать? Видимо, именно этими соображениями пользовался автор известной интерпретации КМ «Заткнись и считай!». Однако, иные интерпретации КМ существуют и явно конкурируют между собой.
Из этого можно сделать вывод: формальные системы нуждаются в интерпретациях как механизме поиска способов расширения мощности формальной системы, поскольку сделать это средствами самой формальной системы, «изнутри», невозможно.
(Не будем забывать, что не все формальные системы являются неполными, если они непротиворечивы: это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике, которая неизбежна при том, что она существует в реальности. Например, аксиоматический статус натуральных чисел никак не уточняется. Именно в связи с этим обстоятельством я не акцентируюсь на классе полных непротиворечивых формальных систем).
Алгоритмические ограничения.
Уже на протяжении довольно большого времени не затихает спор о «вычислимости сознания». Одна из точек зрения заключается в том, что сознание (мышление) неформально, а потому всегда превосходит любую формальную систему. Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно. При всей примитивности этой точки зрения, она в пределе сводится к той идее, что механизм мышления имеет основания, выходящие за пределы доступной ему формализации. Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека. Возражением этой точке зрения является идея об алгоритмическом самосовершенствовании машины, что вроде бы устанавливает паритет способностей.
Вот тут-то и начинается когнитивный кошмар.
Любая машина, созданная нами, является формализацией некоторой нашей интерпретации. Из этого следует, что самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум. Это частично отвечает на вопрос о возможности создания искусственного интеллекта. Получается, что нельзя целевым образом создать ИИ, можно создать саморазвивающуюся заготовку с принципиально невычислимым функциональным исходом — только тогда может ставиться вопрос о паритете (если болванка окажется как минимум так же хороша, как человеческий эмбрион — привет от профессора Преображенского!).
Итак, настоящий ИИ должен быть в состоянии интерпретировать свой собственный формализм. Что это значит? Это практически ничего не значит, до тех пор, пока мы не укажем, до какой степени. Возможность к однократному или двухкратному расширению мощности своей формальной системы у автомата может быть просто заложена. Это возвращает нас к вопросу: а как обстоит дело в случае с человеческим мышлением? С одной стороны, мы — автоматы. С другой — это странное предположение о невычислимости сознания.
Я отвечаю на этот вопрос следующим образом.
Любой субъект в любой данный момент времени имеет очевидные ограничения в отношении любой частной формальной задачи, что фактически уравнивает его с гипотетическим искусственным автоматом. Однако, по мере развития мышления, возможности к формализации в отношении конкретных задач у нас могут улучшаться. Для меня это означает, что в основе работы мозга лежит глубоко скрытый формализм, формализм работы нейронных сетей, на основе которого эмерджентным образом возникает псевдоформализм отчетного (феноменального в расссматриваемом смысле) функционирования мышления.
Уточнение интерпретаций развивающегося мозга приближает его алгоритмы к собственному базовому языку, сохраняя иллюзию собственной невычислимости, или в математических терминах — полноты.
Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду. Тогда, развившись до создания виртуальной модели среды и себя (т.е., проинтерпретировав все случившиеся с ней формальные функциональные решения), она проделает обратный путь, от мощного метаязыка модели до конкретного формального языка электронных элементов, после чего эволюция ее эвристических способностей закончится.
Мы сейчас находимся на марше точно такой же, но не воображаемой, а реальной, нисходящей формализации наших метаязыков. К этому нас понуждает положительная обратная связь от наших же усилий по формализации собственной модели мира. Наши компьютеры, наша наука — это и результат нашего движения к собственному базовому формальному языку, и инструмент. Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается: Flip-Flop.
Так что поторопимся интерпретировать формализм, пока он не убил саму возможность к интерпретации :)
PS Изложенные здесь мысли имеют отношение к попыткам формализовать идею Психогенной сингулярности.
Если бы не последнее обстоятельство, то невозможной бы оказалась сама коммуникация среди людей. Несогласие в степени приемлимости текущего формализма интерпретаций являются причиной всех искренних споров среди людей.
Однако, как это водится в теме неполноты формальных систем, очевидная ясность логики оборачивается когнитивным кошмаром реальности.
Для начала задумаемся: нуждаются ли в интрерпретациях формальные системы? За исключением присущей им неполноты, формальные системы порождают утверждения, истинностное значение которых устанавливается однозначно (в случае вычислимости). Зачем их интерпретировать? Видимо, именно этими соображениями пользовался автор известной интерпретации КМ «Заткнись и считай!». Однако, иные интерпретации КМ существуют и явно конкурируют между собой.
Из этого можно сделать вывод: формальные системы нуждаются в интерпретациях как механизме поиска способов расширения мощности формальной системы, поскольку сделать это средствами самой формальной системы, «изнутри», невозможно.
(Не будем забывать, что не все формальные системы являются неполными, если они непротиворечивы: это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике, которая неизбежна при том, что она существует в реальности. Например, аксиоматический статус натуральных чисел никак не уточняется. Именно в связи с этим обстоятельством я не акцентируюсь на классе полных непротиворечивых формальных систем).
Алгоритмические ограничения.
Уже на протяжении довольно большого времени не затихает спор о «вычислимости сознания». Одна из точек зрения заключается в том, что сознание (мышление) неформально, а потому всегда превосходит любую формальную систему. Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно. При всей примитивности этой точки зрения, она в пределе сводится к той идее, что механизм мышления имеет основания, выходящие за пределы доступной ему формализации. Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека. Возражением этой точке зрения является идея об алгоритмическом самосовершенствовании машины, что вроде бы устанавливает паритет способностей.
Вот тут-то и начинается когнитивный кошмар.
Любая машина, созданная нами, является формализацией некоторой нашей интерпретации. Из этого следует, что самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум. Это частично отвечает на вопрос о возможности создания искусственного интеллекта. Получается, что нельзя целевым образом создать ИИ, можно создать саморазвивающуюся заготовку с принципиально невычислимым функциональным исходом — только тогда может ставиться вопрос о паритете (если болванка окажется как минимум так же хороша, как человеческий эмбрион — привет от профессора Преображенского!).
Итак, настоящий ИИ должен быть в состоянии интерпретировать свой собственный формализм. Что это значит? Это практически ничего не значит, до тех пор, пока мы не укажем, до какой степени. Возможность к однократному или двухкратному расширению мощности своей формальной системы у автомата может быть просто заложена. Это возвращает нас к вопросу: а как обстоит дело в случае с человеческим мышлением? С одной стороны, мы — автоматы. С другой — это странное предположение о невычислимости сознания.
Я отвечаю на этот вопрос следующим образом.
Любой субъект в любой данный момент времени имеет очевидные ограничения в отношении любой частной формальной задачи, что фактически уравнивает его с гипотетическим искусственным автоматом. Однако, по мере развития мышления, возможности к формализации в отношении конкретных задач у нас могут улучшаться. Для меня это означает, что в основе работы мозга лежит глубоко скрытый формализм, формализм работы нейронных сетей, на основе которого эмерджентным образом возникает псевдоформализм отчетного (феноменального в расссматриваемом смысле) функционирования мышления.
Уточнение интерпретаций развивающегося мозга приближает его алгоритмы к собственному базовому языку, сохраняя иллюзию собственной невычислимости, или в математических терминах — полноты.
Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду. Тогда, развившись до создания виртуальной модели среды и себя (т.е., проинтерпретировав все случившиеся с ней формальные функциональные решения), она проделает обратный путь, от мощного метаязыка модели до конкретного формального языка электронных элементов, после чего эволюция ее эвристических способностей закончится.
Мы сейчас находимся на марше точно такой же, но не воображаемой, а реальной, нисходящей формализации наших метаязыков. К этому нас понуждает положительная обратная связь от наших же усилий по формализации собственной модели мира. Наши компьютеры, наша наука — это и результат нашего движения к собственному базовому формальному языку, и инструмент. Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается: Flip-Flop.
Так что поторопимся интерпретировать формализм, пока он не убил саму возможность к интерпретации :)
PS Изложенные здесь мысли имеют отношение к попыткам формализовать идею Психогенной сингулярности.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2013-06-08 07:02 pm (UTC)no subject
Date: 2013-06-08 07:11 pm (UTC)== После открытия в 1930 году теоремы Гёделя о неполноте стало ясно, что в подобных простых системах это невозможно.
Что за "это"-то? :) Видимо имели в виду док-во непротиворечивости и полноты одновременно, но почему-то не сказали.
Только дело не в простоте, а в сложности. Немножко наоборот :) Если, например, убрать из аксиом арифметики аксиому индукции, то сделать "это" как раз несложно. Что сам Гедель и сделал. Там вся проблема в индукции.
== Хорошо, альтернативная математика
Альтернативная как раз у Геделя. О чем как-то "забывают" сообщить в поп-литературе, когда говорят об его теоремах.
no subject
Date: 2013-06-08 07:23 pm (UTC)no subject
Date: 2013-06-08 07:45 pm (UTC)Нет, читайте самих математиков, а не всякую попсу. Лекции какие-нибудь по основаниям математики для первых курсов хорошо подойдут. Вавилова, например, очень неплохие. Или самого Генцена посмотрите, он здорово пишет.
== А кто там у вас на самом деле альтернативный
Там же всё просто. То была финитная программа Гильберта, а значит, актуальная бесконечность запрещена. Технически это выражалось в том, что для формального вывода разрешалось использовать только логику предикатов первого порядка (это явно оговаривается в теоремах Г.). То есть предикаты над выражениями запрещены, что и означает невозможность построения формального утверждения про бесконечное (кванторы не могут попасть под предикаты) .
По существу Гедель доказал, что без обращения к актуальной бесконечности невозможно обосновать индукцию (в этом и состоит смысл теорем Геделя). Что в общем-то совсем не удивительно :)
Генцен же хотел не просто обосновать арифметику, но сделать это максимально финитно, т.е. ввести актуальную бесконечность как можно мягче - расширить чуть-чуть понятие финитности и через это продолжить программу, обойдя геделевский затык.
Собственно, он это и сделал, но финитная программа как-то уже совсем померла. Ну и действительно, кому нужна эта игра, ведь к реальной математике это не имеет никакого отношения. Никто там не откажется от актуальной бесконечности, никто, кроме отдельных альтернативщиков.
no subject
Date: 2013-06-08 07:52 pm (UTC)no subject
Date: 2013-06-08 08:03 pm (UTC)Тема самого поста мне не очень интерсна :) Имхо, это всё псевдопроблемы.
ИИ просто не нужен, так что его возможность/невозможность не имеет значения.
Точнее, тема ИИ осмыслена, только если понимать ИИ как расширение возможностей человеческого разума. Типа выделение и формализация каких-то областей мышления с дальнейшим их переносом на другой материал. Но тут вроде нет никаких принципиальных проблем - это просто работа.
no subject
Date: 2013-06-08 08:15 pm (UTC)no subject
Date: 2013-06-08 08:18 pm (UTC)no subject
Date: 2013-06-08 08:22 pm (UTC)no subject
Date: 2013-06-08 08:34 pm (UTC)Вопрос об истинности формальных выражений вообще высосан из пальца и никакого значения не имеет.
Словосочетание же "интерпретация формальной системы" мне всегда казалось очень смешным.
no subject
Date: 2013-06-08 08:46 pm (UTC)