![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
hitthelimitВозьмем синтаксически правильное предложение, например: «По улице идет человек». Имеет ли оно истинностное значение? Априори это неизвестно и неустановимо исходя из самого предложения. Требуется интерпретация этого предложения для установления истинностных значений относительно всех составляющих его элементов (что такое улица, какая улица, что значит «идти», что такое человек и так далее). Но и после этого значение истинности не будет установлено строго, потому что исходно и далее используется метаязык, а не формальный язык. Можно сказать, что интерпретация считается приемлимой в том случае, когда используемый ею язык по соглашению считается (псевдо)формальным.
Если бы не последнее обстоятельство, то невозможной бы оказалась сама коммуникация среди людей. Несогласие в степени приемлимости текущего формализма интерпретаций являются причиной всех искренних споров среди людей.
Однако, как это водится в теме неполноты формальных систем, очевидная ясность логики оборачивается когнитивным кошмаром реальности.
Для начала задумаемся: нуждаются ли в интрерпретациях формальные системы? За исключением присущей им неполноты, формальные системы порождают утверждения, истинностное значение которых устанавливается однозначно (в случае вычислимости). Зачем их интерпретировать? Видимо, именно этими соображениями пользовался автор известной интерпретации КМ «Заткнись и считай!». Однако, иные интерпретации КМ существуют и явно конкурируют между собой.
Из этого можно сделать вывод: формальные системы нуждаются в интерпретациях как механизме поиска способов расширения мощности формальной системы, поскольку сделать это средствами самой формальной системы, «изнутри», невозможно.
(Не будем забывать, что не все формальные системы являются неполными, если они непротиворечивы: это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике, которая неизбежна при том, что она существует в реальности. Например, аксиоматический статус натуральных чисел никак не уточняется. Именно в связи с этим обстоятельством я не акцентируюсь на классе полных непротиворечивых формальных систем).
Алгоритмические ограничения.
Уже на протяжении довольно большого времени не затихает спор о «вычислимости сознания». Одна из точек зрения заключается в том, что сознание (мышление) неформально, а потому всегда превосходит любую формальную систему. Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно. При всей примитивности этой точки зрения, она в пределе сводится к той идее, что механизм мышления имеет основания, выходящие за пределы доступной ему формализации. Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека. Возражением этой точке зрения является идея об алгоритмическом самосовершенствовании машины, что вроде бы устанавливает паритет способностей.
Вот тут-то и начинается когнитивный кошмар.
Любая машина, созданная нами, является формализацией некоторой нашей интерпретации. Из этого следует, что самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум. Это частично отвечает на вопрос о возможности создания искусственного интеллекта. Получается, что нельзя целевым образом создать ИИ, можно создать саморазвивающуюся заготовку с принципиально невычислимым функциональным исходом — только тогда может ставиться вопрос о паритете (если болванка окажется как минимум так же хороша, как человеческий эмбрион — привет от профессора Преображенского!).
Итак, настоящий ИИ должен быть в состоянии интерпретировать свой собственный формализм. Что это значит? Это практически ничего не значит, до тех пор, пока мы не укажем, до какой степени. Возможность к однократному или двухкратному расширению мощности своей формальной системы у автомата может быть просто заложена. Это возвращает нас к вопросу: а как обстоит дело в случае с человеческим мышлением? С одной стороны, мы — автоматы. С другой — это странное предположение о невычислимости сознания.
Я отвечаю на этот вопрос следующим образом.
Любой субъект в любой данный момент времени имеет очевидные ограничения в отношении любой частной формальной задачи, что фактически уравнивает его с гипотетическим искусственным автоматом. Однако, по мере развития мышления, возможности к формализации в отношении конкретных задач у нас могут улучшаться. Для меня это означает, что в основе работы мозга лежит глубоко скрытый формализм, формализм работы нейронных сетей, на основе которого эмерджентным образом возникает псевдоформализм отчетного (феноменального в расссматриваемом смысле) функционирования мышления.
Уточнение интерпретаций развивающегося мозга приближает его алгоритмы к собственному базовому языку, сохраняя иллюзию собственной невычислимости, или в математических терминах — полноты.
Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду. Тогда, развившись до создания виртуальной модели среды и себя (т.е., проинтерпретировав все случившиеся с ней формальные функциональные решения), она проделает обратный путь, от мощного метаязыка модели до конкретного формального языка электронных элементов, после чего эволюция ее эвристических способностей закончится.
Мы сейчас находимся на марше точно такой же, но не воображаемой, а реальной, нисходящей формализации наших метаязыков. К этому нас понуждает положительная обратная связь от наших же усилий по формализации собственной модели мира. Наши компьютеры, наша наука — это и результат нашего движения к собственному базовому формальному языку, и инструмент. Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается: Flip-Flop.
Так что поторопимся интерпретировать формализм, пока он не убил саму возможность к интерпретации :)
PS Изложенные здесь мысли имеют отношение к попыткам формализовать идею Психогенной сингулярности.
Если бы не последнее обстоятельство, то невозможной бы оказалась сама коммуникация среди людей. Несогласие в степени приемлимости текущего формализма интерпретаций являются причиной всех искренних споров среди людей.
Однако, как это водится в теме неполноты формальных систем, очевидная ясность логики оборачивается когнитивным кошмаром реальности.
Для начала задумаемся: нуждаются ли в интрерпретациях формальные системы? За исключением присущей им неполноты, формальные системы порождают утверждения, истинностное значение которых устанавливается однозначно (в случае вычислимости). Зачем их интерпретировать? Видимо, именно этими соображениями пользовался автор известной интерпретации КМ «Заткнись и считай!». Однако, иные интерпретации КМ существуют и явно конкурируют между собой.
Из этого можно сделать вывод: формальные системы нуждаются в интерпретациях как механизме поиска способов расширения мощности формальной системы, поскольку сделать это средствами самой формальной системы, «изнутри», невозможно.
(Не будем забывать, что не все формальные системы являются неполными, если они непротиворечивы: это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике, которая неизбежна при том, что она существует в реальности. Например, аксиоматический статус натуральных чисел никак не уточняется. Именно в связи с этим обстоятельством я не акцентируюсь на классе полных непротиворечивых формальных систем).
Алгоритмические ограничения.
Уже на протяжении довольно большого времени не затихает спор о «вычислимости сознания». Одна из точек зрения заключается в том, что сознание (мышление) неформально, а потому всегда превосходит любую формальную систему. Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно. При всей примитивности этой точки зрения, она в пределе сводится к той идее, что механизм мышления имеет основания, выходящие за пределы доступной ему формализации. Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека. Возражением этой точке зрения является идея об алгоритмическом самосовершенствовании машины, что вроде бы устанавливает паритет способностей.
Вот тут-то и начинается когнитивный кошмар.
Любая машина, созданная нами, является формализацией некоторой нашей интерпретации. Из этого следует, что самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум. Это частично отвечает на вопрос о возможности создания искусственного интеллекта. Получается, что нельзя целевым образом создать ИИ, можно создать саморазвивающуюся заготовку с принципиально невычислимым функциональным исходом — только тогда может ставиться вопрос о паритете (если болванка окажется как минимум так же хороша, как человеческий эмбрион — привет от профессора Преображенского!).
Итак, настоящий ИИ должен быть в состоянии интерпретировать свой собственный формализм. Что это значит? Это практически ничего не значит, до тех пор, пока мы не укажем, до какой степени. Возможность к однократному или двухкратному расширению мощности своей формальной системы у автомата может быть просто заложена. Это возвращает нас к вопросу: а как обстоит дело в случае с человеческим мышлением? С одной стороны, мы — автоматы. С другой — это странное предположение о невычислимости сознания.
Я отвечаю на этот вопрос следующим образом.
Любой субъект в любой данный момент времени имеет очевидные ограничения в отношении любой частной формальной задачи, что фактически уравнивает его с гипотетическим искусственным автоматом. Однако, по мере развития мышления, возможности к формализации в отношении конкретных задач у нас могут улучшаться. Для меня это означает, что в основе работы мозга лежит глубоко скрытый формализм, формализм работы нейронных сетей, на основе которого эмерджентным образом возникает псевдоформализм отчетного (феноменального в расссматриваемом смысле) функционирования мышления.
Уточнение интерпретаций развивающегося мозга приближает его алгоритмы к собственному базовому языку, сохраняя иллюзию собственной невычислимости, или в математических терминах — полноты.
Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду. Тогда, развившись до создания виртуальной модели среды и себя (т.е., проинтерпретировав все случившиеся с ней формальные функциональные решения), она проделает обратный путь, от мощного метаязыка модели до конкретного формального языка электронных элементов, после чего эволюция ее эвристических способностей закончится.
Мы сейчас находимся на марше точно такой же, но не воображаемой, а реальной, нисходящей формализации наших метаязыков. К этому нас понуждает положительная обратная связь от наших же усилий по формализации собственной модели мира. Наши компьютеры, наша наука — это и результат нашего движения к собственному базовому формальному языку, и инструмент. Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается: Flip-Flop.
Так что поторопимся интерпретировать формализм, пока он не убил саму возможность к интерпретации :)
PS Изложенные здесь мысли имеют отношение к попыткам формализовать идею Психогенной сингулярности.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2013-06-09 05:01 am (UTC)Пардон, я это у вас не заметил по невнимательности.
”Одна система против другой.
Пока что это тот человек, относительно которого мы договоримся.
Другой системой, относительно которой есть соглашение. В данном случае, группа индивидуумов.”
Вот, вот. Человек или даже группа людей есть представители человечества, т.е. являются частью очень большой и сложной системы, которая развивалась тысячелетия, развила свое устройство и в своих базах данных накопила массу информации.
Поэтому противопоставлять ему «электронную машину» может оказаться не верным.
А во-вторых, человек не решает задачи даже когда может и даже когда есть общепринятые алгоритмы. Причем он не решает и не использует алгоритмы, даже если это приводит его к гибели. (В справедливости этого легко убедиться, поездив по дорогам.)
Вполне возможно что, «для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете» у нее должны быть «забавные» алгоритмы, в т.ч. включающие возможность не следовать алгоритмам.
no subject
Date: 2013-06-09 01:08 pm (UTC)У меня и об этом сказано: «она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду.» Это о развитии, только у машины путь будет короче, она быстрее. И ей никто не запрещает коммуникацию с себе подобными — если ей это надо. Дело не в этом. Дело в несовершенстве модели окружающей среды, которую она создаст, и глубине (сложности) базового формального языка. Обеспечение последнего у меня вызывает сомнения, но кто знает. Наноструктуры и все такое прочее.
«человек не решает задачи даже когда может...»
Разумеется, речь идет не о частных случаях — недоумков предостаточно, а о тенденциях. Например, задача только визуального распознавания чего стоит, а ведь даже животные с ней справляются лихо.
«включающие возможность не следовать алгоритмам.»
Этого вопроса я коротко коснулся в последней теме в этом журнале. Какой-то механизм решения все равно должен быть.