![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
hitthelimitВозьмем синтаксически правильное предложение, например: «По улице идет человек». Имеет ли оно истинностное значение? Априори это неизвестно и неустановимо исходя из самого предложения. Требуется интерпретация этого предложения для установления истинностных значений относительно всех составляющих его элементов (что такое улица, какая улица, что значит «идти», что такое человек и так далее). Но и после этого значение истинности не будет установлено строго, потому что исходно и далее используется метаязык, а не формальный язык. Можно сказать, что интерпретация считается приемлимой в том случае, когда используемый ею язык по соглашению считается (псевдо)формальным.
Если бы не последнее обстоятельство, то невозможной бы оказалась сама коммуникация среди людей. Несогласие в степени приемлимости текущего формализма интерпретаций являются причиной всех искренних споров среди людей.
Однако, как это водится в теме неполноты формальных систем, очевидная ясность логики оборачивается когнитивным кошмаром реальности.
Для начала задумаемся: нуждаются ли в интрерпретациях формальные системы? За исключением присущей им неполноты, формальные системы порождают утверждения, истинностное значение которых устанавливается однозначно (в случае вычислимости). Зачем их интерпретировать? Видимо, именно этими соображениями пользовался автор известной интерпретации КМ «Заткнись и считай!». Однако, иные интерпретации КМ существуют и явно конкурируют между собой.
Из этого можно сделать вывод: формальные системы нуждаются в интерпретациях как механизме поиска способов расширения мощности формальной системы, поскольку сделать это средствами самой формальной системы, «изнутри», невозможно.
(Не будем забывать, что не все формальные системы являются неполными, если они непротиворечивы: это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике, которая неизбежна при том, что она существует в реальности. Например, аксиоматический статус натуральных чисел никак не уточняется. Именно в связи с этим обстоятельством я не акцентируюсь на классе полных непротиворечивых формальных систем).
Алгоритмические ограничения.
Уже на протяжении довольно большого времени не затихает спор о «вычислимости сознания». Одна из точек зрения заключается в том, что сознание (мышление) неформально, а потому всегда превосходит любую формальную систему. Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно. При всей примитивности этой точки зрения, она в пределе сводится к той идее, что механизм мышления имеет основания, выходящие за пределы доступной ему формализации. Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека. Возражением этой точке зрения является идея об алгоритмическом самосовершенствовании машины, что вроде бы устанавливает паритет способностей.
Вот тут-то и начинается когнитивный кошмар.
Любая машина, созданная нами, является формализацией некоторой нашей интерпретации. Из этого следует, что самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум. Это частично отвечает на вопрос о возможности создания искусственного интеллекта. Получается, что нельзя целевым образом создать ИИ, можно создать саморазвивающуюся заготовку с принципиально невычислимым функциональным исходом — только тогда может ставиться вопрос о паритете (если болванка окажется как минимум так же хороша, как человеческий эмбрион — привет от профессора Преображенского!).
Итак, настоящий ИИ должен быть в состоянии интерпретировать свой собственный формализм. Что это значит? Это практически ничего не значит, до тех пор, пока мы не укажем, до какой степени. Возможность к однократному или двухкратному расширению мощности своей формальной системы у автомата может быть просто заложена. Это возвращает нас к вопросу: а как обстоит дело в случае с человеческим мышлением? С одной стороны, мы — автоматы. С другой — это странное предположение о невычислимости сознания.
Я отвечаю на этот вопрос следующим образом.
Любой субъект в любой данный момент времени имеет очевидные ограничения в отношении любой частной формальной задачи, что фактически уравнивает его с гипотетическим искусственным автоматом. Однако, по мере развития мышления, возможности к формализации в отношении конкретных задач у нас могут улучшаться. Для меня это означает, что в основе работы мозга лежит глубоко скрытый формализм, формализм работы нейронных сетей, на основе которого эмерджентным образом возникает псевдоформализм отчетного (феноменального в расссматриваемом смысле) функционирования мышления.
Уточнение интерпретаций развивающегося мозга приближает его алгоритмы к собственному базовому языку, сохраняя иллюзию собственной невычислимости, или в математических терминах — полноты.
Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду. Тогда, развившись до создания виртуальной модели среды и себя (т.е., проинтерпретировав все случившиеся с ней формальные функциональные решения), она проделает обратный путь, от мощного метаязыка модели до конкретного формального языка электронных элементов, после чего эволюция ее эвристических способностей закончится.
Мы сейчас находимся на марше точно такой же, но не воображаемой, а реальной, нисходящей формализации наших метаязыков. К этому нас понуждает положительная обратная связь от наших же усилий по формализации собственной модели мира. Наши компьютеры, наша наука — это и результат нашего движения к собственному базовому формальному языку, и инструмент. Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается: Flip-Flop.
Так что поторопимся интерпретировать формализм, пока он не убил саму возможность к интерпретации :)
PS Изложенные здесь мысли имеют отношение к попыткам формализовать идею Психогенной сингулярности.
Если бы не последнее обстоятельство, то невозможной бы оказалась сама коммуникация среди людей. Несогласие в степени приемлимости текущего формализма интерпретаций являются причиной всех искренних споров среди людей.
Однако, как это водится в теме неполноты формальных систем, очевидная ясность логики оборачивается когнитивным кошмаром реальности.
Для начала задумаемся: нуждаются ли в интрерпретациях формальные системы? За исключением присущей им неполноты, формальные системы порождают утверждения, истинностное значение которых устанавливается однозначно (в случае вычислимости). Зачем их интерпретировать? Видимо, именно этими соображениями пользовался автор известной интерпретации КМ «Заткнись и считай!». Однако, иные интерпретации КМ существуют и явно конкурируют между собой.
Из этого можно сделать вывод: формальные системы нуждаются в интерпретациях как механизме поиска способов расширения мощности формальной системы, поскольку сделать это средствами самой формальной системы, «изнутри», невозможно.
(Не будем забывать, что не все формальные системы являются неполными, если они непротиворечивы: это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике, которая неизбежна при том, что она существует в реальности. Например, аксиоматический статус натуральных чисел никак не уточняется. Именно в связи с этим обстоятельством я не акцентируюсь на классе полных непротиворечивых формальных систем).
Алгоритмические ограничения.
Уже на протяжении довольно большого времени не затихает спор о «вычислимости сознания». Одна из точек зрения заключается в том, что сознание (мышление) неформально, а потому всегда превосходит любую формальную систему. Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно. При всей примитивности этой точки зрения, она в пределе сводится к той идее, что механизм мышления имеет основания, выходящие за пределы доступной ему формализации. Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека. Возражением этой точке зрения является идея об алгоритмическом самосовершенствовании машины, что вроде бы устанавливает паритет способностей.
Вот тут-то и начинается когнитивный кошмар.
Любая машина, созданная нами, является формализацией некоторой нашей интерпретации. Из этого следует, что самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум. Это частично отвечает на вопрос о возможности создания искусственного интеллекта. Получается, что нельзя целевым образом создать ИИ, можно создать саморазвивающуюся заготовку с принципиально невычислимым функциональным исходом — только тогда может ставиться вопрос о паритете (если болванка окажется как минимум так же хороша, как человеческий эмбрион — привет от профессора Преображенского!).
Итак, настоящий ИИ должен быть в состоянии интерпретировать свой собственный формализм. Что это значит? Это практически ничего не значит, до тех пор, пока мы не укажем, до какой степени. Возможность к однократному или двухкратному расширению мощности своей формальной системы у автомата может быть просто заложена. Это возвращает нас к вопросу: а как обстоит дело в случае с человеческим мышлением? С одной стороны, мы — автоматы. С другой — это странное предположение о невычислимости сознания.
Я отвечаю на этот вопрос следующим образом.
Любой субъект в любой данный момент времени имеет очевидные ограничения в отношении любой частной формальной задачи, что фактически уравнивает его с гипотетическим искусственным автоматом. Однако, по мере развития мышления, возможности к формализации в отношении конкретных задач у нас могут улучшаться. Для меня это означает, что в основе работы мозга лежит глубоко скрытый формализм, формализм работы нейронных сетей, на основе которого эмерджентным образом возникает псевдоформализм отчетного (феноменального в расссматриваемом смысле) функционирования мышления.
Уточнение интерпретаций развивающегося мозга приближает его алгоритмы к собственному базовому языку, сохраняя иллюзию собственной невычислимости, или в математических терминах — полноты.
Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду. Тогда, развившись до создания виртуальной модели среды и себя (т.е., проинтерпретировав все случившиеся с ней формальные функциональные решения), она проделает обратный путь, от мощного метаязыка модели до конкретного формального языка электронных элементов, после чего эволюция ее эвристических способностей закончится.
Мы сейчас находимся на марше точно такой же, но не воображаемой, а реальной, нисходящей формализации наших метаязыков. К этому нас понуждает положительная обратная связь от наших же усилий по формализации собственной модели мира. Наши компьютеры, наша наука — это и результат нашего движения к собственному базовому формальному языку, и инструмент. Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается: Flip-Flop.
Так что поторопимся интерпретировать формализм, пока он не убил саму возможность к интерпретации :)
PS Изложенные здесь мысли имеют отношение к попыткам формализовать идею Психогенной сингулярности.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2013-06-09 01:15 pm (UTC)Да.
«тем же, чем заканчивается всё, что начинается как экспонента - выходом маловажных отрицательных обратных связей на первый план и логистической кривой.»
Это зависит от параметров управления обратной связью. При достаточно сильной ПОС все параметры не имеют значения — система опрокидывается. Пример — триггер (любая динамически неустойчивая система).
no subject
Date: 2013-06-09 01:25 pm (UTC)Если речь про эволюционные, "природные" системы, то и пример надо бы привести из не-формальных, не-инженерных систем. Хотя я допускаю, что такое развитие событий встречается (катастрофическая ситуация) мне всё же кажется, что они скорее исключение. Обычно система достаточно сложна, чтобы набралось достаточно отрицательных обратных связей для компенсации. Пусть даже и ценой потери некоторых частей. Пусть даже и с учётом перехода к новому аттрактору.
no subject
Date: 2013-06-09 01:39 pm (UTC)Сложность этого не гарантирует. Просто посмотрите на ситуацию через прицел глобальной эволюции сложности: собственный гомеостаз психики вполне может уничтожить все нижележащие свои субстраты. Спас ребенка из проруби, сам погиб — примитивный пример.
no subject
Date: 2013-06-09 01:50 pm (UTC)Впрочем, тут более интересны многочисленные и разнообразные психиатрические примеры. Так что я вынужден скорее с вами согласиться.
no subject
Date: 2013-06-09 03:53 pm (UTC)Это статика системы, а я предложил вам взглянуть с точки зрения глобальной эволюции. Это нелинейный вопрос.Эго-система не видит модель, которой она пользуется (по Метцингеру), она для нее прозрачна. Также прозрачна для нее и мотивация, порождаемая текущей структурой внутренней феноменальной модели. Детали можно подметить на других системах ("соринка в чужом глазу"), либо рассчитать формально. Проблемы начинаются при применении результатов расчетов или наблюдений к себе. Невидимость модели играет с нами плохую шутку в этом смысле. Мы заложники качества нашей феноменальной модели мира и себя, а это качество отнюдь не гарантировано адаптативными требованиями - у модели есть свои законы и требования "адаптации". Собственный гомеостаз. Собственный! Коррупция управления - обычная вещь.
no subject
Date: 2013-06-09 03:56 pm (UTC)no subject
Date: 2013-06-09 04:02 pm (UTC)no subject
Date: 2013-06-09 04:26 pm (UTC)Очень смелое утверждение, на мой вкус. Или я не очень понял контекста. Вариативность сумасшедшая и на филогенетическом уровне, но и отбор велик. Онтогенез порождает филогенез в форме микроотличий индивидуальных особей, дающих преимущества и закрепляющихся в филогенезе вида.
no subject
Date: 2013-06-09 04:38 pm (UTC)no subject
Date: 2013-06-09 04:53 pm (UTC)Единственный аттрактор - очень смелое утверждение. На всех уровнях.
Хотя антропный принцип пока на вашей стороне.
Вот только тут можно допустить ошибку двух родов - ожидать существование одного аттрактора, при их множественности и неверно определить финальную точку аттрактора по наблюдаемому отрезку траектории.
no subject
Date: 2013-06-09 05:12 pm (UTC)no subject
Date: 2013-06-09 05:31 pm (UTC)Но в небе мы видим много разных звёзд. Какие-то сгорают быстро, какие-то живут долго, какие-то живут почти вечно, в них горит разное топливо, хотя законы для всех одни.
Жизнь заполняет все доступные ей ниши, она не ограничивается одной точкой эволюционного притяжения.
Минималистические посылки это хорошо, но у всякой бритвы есть область применения.
Впрочем, вы вольны выбирать те аксиомы, которые вам кажутся наилучшими.
no subject
Date: 2013-06-09 05:53 pm (UTC)Вот. Вариативность тут ни при чем. Опишите устройство звезды от фонаря и астрофизик вам скажет: этого никогда не может быть.
Когда я говорю о сложности, я не имею в виду любую сложность биосистемы.
no subject
Date: 2013-06-09 05:58 pm (UTC)