Сингулярность сингулярности рознь.

[hitthelimit]

    Сегодня нет недостатка в прогнозах и ожиданиях относительно стремительно набирающего обороты процесса под названием Технологическая Сингулярность. Странным образом, при том, что в фактических данных, касающихся различных аспектов этого явления, нет недостатка, общая картина четко не прорисовывается.

Можно сказать, мол, все дело в сильной нелинейности основных процессов, потому и прогнозировать сложно. Я бы возразил, что о непреодолимой нелинейности говорить пока рано, нелинейность бушует в окрестностях Сингулярности, но на подходах все вполне еще предсказуемо. Напротив, есть фактор, который имитирует эту нелинейность сейчас, как это было на протяжении тысячелетий. Я говорю о «линейности психики» - это первый, простой аспект. О нем более или менее внятно уже сказано разными авторами.

Но есть и второй психологический аспект, и он чрезвычайно сложен для понимания – о нем чуть позже.

Экспоненциальная закономерность развития динамических систем далеко не экзотика. Все прекрасно знают, что классический экспоненциальный вид графика сохраняется на некотором участке, после чего приходится говорить о других процессах, если не о других системах. Классический пример – рост бактериальных культур на средах. В нем отражается основной итоговый принцип развития такого рода: влияние нагрузки на среду. Возникает отрицательная обратная связь, компенсирующая изначально ведущую положительную. Невосполнимость ресурсов среды с экспоненциальной скоростью всегда обрывает взлет кривой.

Но не всегда все так просто...

    Важно видеть разницу между примерами сродни росту бактерий на питательных средах и нелинейно ускоряющимся процессом неких изменений для систем, которые сами при этом изменяют свои параметры. В последнем случае факт модификации системы, находящейся в развитии, резко усложняет общую картину.

Это легко показать на программах, имитирующих разнообразные аспекты эволюции. Если задать возможность существенного изменения свойств эволюционирующего объекта, то обнаружится, что объект активно изменяет параметры взаимодействия со средой по мере своей модификации. Невосполнимость ресурсов среды при этом перестаёт быть легко предсказуемой характеристикой процесса, и в реальных случая прогноз может быть затруднительным из-за большого числа его нелинейных составляющих.

Все, что мы до сих пор знали относительно процессов с нелинейными параметрами развития, касающихся вовлеченности человека в масштабах локальных цивилизаций, не демонстрирует нам фактора принципиального изменения поведения ни объекта – цивилизации, ни составляющих его субъектов. Многие исчезнувшие цивилизации – тому пример. Именно линейность психики становилась причиной того, что цивилизации оказывались в состоянии нелинейного процесса. Говоря простым языком, психика субъектов и сознание общества не успевали (даже по тем временам!) отреагировать адекватным изменением для задействования иных, или иным образом, ресурсов. Скажем так: с точки зрения программного аналога, эволюционирующему объекту программист не придал достаточно широких, гибких возможностей для модификации под действием меняющихся условий, что дало бы возможность более широкого взаимодействия со средой.

Именно в рамках такого подхода есть смысл анализировать текущий момент. В чем-то он повторяет историю, а в чем-то он принципиально отличен от всего, что уже было.

Повторение в том, что психика все так же демонстрирует отставание от скорости развития объективных процессов, что вполне естественно, тем более, что скорость самих процессов, как мы знаем, нелинейно увеличивается.

Новое в том, что ускорение процессов, в которые психика так или иначе вовлечена, становится слишком заметным, что бы его игнорировать. О нем говорят, комментируют, объясняют. Учитывая гибкость психики, она отвечает процессом адаптивного изменения на столь жесткое давление. Коль скоро мы указали на ядро процесса, можно попытаться сделать некие предсказания. Так, я бы предположил, что модификация психики будет идти по пути отказа от всеобъемлющей интерпретации отражаемых процессов, причем лидирующим эффектом при этом станет исключение из этой интерпретации субъективного параметра качества, оценки. Почему? Очень просто: оценочная привязка психики к процессам, которые ей уже не подвластны – это мощнейший дестабилизирующий фактор, а психика подчиняется закону сохранения своего гомеостаза, своей стабильности, как частного проявления всеобщего закона минимального действия. Имеем ли мы в действительности нечто, что отражает мое предположение? Да, в частности, это философия постмодернизма, с ее «смертью субъекта». Система пока что рыхлая, но вектор задан. Смысл этого феномена обществом еще не понят, но у него есть гарантированное будущее.

В этом месте я конкретизирую вопрос так: каким образом будет складываться баланс между модификацией психики и параметрами нагрузки на среду в предсингулярное время? Более того, есть необходимость уточнить, как именно понимается «среда» в данном контексте. Читая комментарии к вопросу о Сингулярности, можно обнаружить, что среда в основном мыслится материально, планетарно, иногда – космологически. Это классический пример линейного мышления. Говорят о грядущем энергетическом кризисе, загрязнении, изменениях климата и проч. Это пример того, как совершенно не берется в расчет процесс модификации психики, который по настоящему только начинается.

Я полагаю, ключ к анализу лежит в понимании направления изменения психики. Причем не стоит усложнять вопрос тезисом «бытие определяет сознание», потому как именно «сознание» и формирует это бытие, это двусторонний процесс. Наше будущее «бытие» напрямую зависит от структурно-функциональных качеств психики в первую очередь, и сильно во вторую – от среды. Это то, что в общем и целом пока мало кто понимает. Если я не ошибаюсь относительно этого, то в плане прогнозов все становится намного интереснее, потому как наша психика у нас всегда под рукой, и достаточно ухватить её внутреннюю тенденцию, что бы с уверенностью сказать, чем этот процесс рискует закончиться.

Здесь я подхожу к самому сложному, о чем я упомянул в начале – второй психологический аспект. Речь идет о Собственных Состояниях Систем (ССС). Я написал это большими буквами, подчеркивая аксиоматичность положения, его фундаментальность.

То, что нечто фундаментально существенное отсутствует во всех онтологических подходах к взятию штанги под названием «Существование», становится совершенно очевидно каждому, кто возьмет на себя труд проанализировать историю философии. Также ничего по этому поводу не говорит нам и наука, так как это вообще не ее сфера. Подозрение, что в основе вопроса лежит какой-то дешёвый, но хорошо замаскированный фокус вполне обоснованное. Что это за фокус?

Уже достаточно много неглупых людей ломало над этим голову, чтобы рискнуть предположить, что в рамках описания вопрос ответа не имеет. Именно так – в рамках описания. Если угодно – в рамках логики в ее самом широком смысле. Какой бы логикой вы не воспользовались, при подходе к точке "Существование" будет обнаружена ее неполнота. Более того, неполнота «меточного» отражения выявляется уже на подходе к интерпретации «сознания», при том, что сам этот вопрос яйца выеденного не стоит. Именно этот аспект, я полагаю, отражен, частично, в структуре философии постмодернизма, в той ее части, по крайней мере, которая говорит о «смерти субъекта». Но схватывает ли эта новая философия суть дела, взят ли вес? Нет, конечно. «Смерть субъекта» - это скорее «удачный» ответ на тупик, в который зашла философия на фоне давления со стороны явным образом меняющегося «бытия». Это не интерпретация прямого понимания, иначе вся философия постмодернизма была бы куда более последовательной и конкретной.

Давайте попробуем взглянуть на мир глазами совершенно постороннего наблюдателя :)

Первое, что мы обнаружим, это факт, что мы ничего не обнаруживаем. Да – именно так. Почему? Потому что «совершенно посторонний наблюдатель» - оксюморон. Любой наблюдатель, для того, что бы хоть что-то наблюдать, должен быть частью наблюдаемого. Не бог весть какая глубокая мысль, не правда ли?

Являясь частью, наблюдатель может отражать только часть. Т.е. для того, что бы сдвинуться с места, приходится говорить о частях. Лучше – о произвольных, так как непроизвольное разбиение на части целого потребует слишком много начальных условий, что вытолкнет нас сразу в сферу, где фундаментальные интерпретации затруднены.

Далее, наблюдение того, что мы наблюдаем: эквивалентом чего оно является? А вот это и есть собственное состояние наблюдателя. Неважно, что выступает в лице такого наблюдателя. В общем случае – это просто какая-то произвольная часть целого. Более того, сама сущность этой части выражена в этом состоянии. Это то, что называют «вещью в себе» - в широком смысле термина.

Итак, ССС – это последний, неделимый смысл реальности на уровне произвольно выделенной части. Здесь можно задать много ядовитых вопросов, типа «кто выделяет?» и прочих. Так вот: никто и ничто ничего не выделяет. Реальность как целое неделима в плане привычных для нас смыслов. ВСЕ, о чем мы говорим – это виртуальная генерация внутри Реальности, т.е., в ее частичном представлении. Виртуальная с точки зрения Реальности как целого, но вполне реальная для любой её части, потому что любая часть – виртуальна. Виртуальность для виртуального – реальность. В представленной схеме понятие ССС занимает ключевое место: это точка творения реальности внутри Реальности. Именно ССС определяет, как будет данным частным выделением отражена остальная реальность, т.е., речь идет о «сотворении частной реальности». Отблеск этой мысли, я полагаю, лежит в тех философских концепциях, которые утверждали, что нечто существует только тогда, когда я на него смотрю. Как видно, до сих пор ничего сложного в моих рассуждениях нет, все это уже так или иначе озвучивалось разными философами.

Облом наступает на стадии рефлексивной итерации. Если точнеe, то сама способность психики к рефлексии, к рекурсивным обращениям на свой процесс, становится камнем преткновения для исчерпывающей интерпретации Существования. Этот и есть тот фокус, о котором я упоминал, который до сих пор позволял психике худо-бедно существовать. Потому что психика может поддерживать свое постоянство в некоторых рамках только в среде отражения, в среде набора собственных состояний, будучи открытой системой, системой, смысл которой лежит в первую очередь в отражении. Психика – это полностью динамическая система, ее нельзя заморозить без того, что бы она не перестала быть тем, чем она является. Поэтому для психики полномасштабное отражение сущности "Существования" является запрещенным по сути ее устройства. Если взять за водораздел собственное состояние психики как системы, то «Существование» лежит по другую сторону от направления, в котором собственное состояние создает свою реальность. Существование не является частью создания виртуальной реальности внутри Реальности. Существование принадлежит Реальности. Процесс в одну сторону несовместим с процессом в другую сторону.

Момент достижения психикой отражения собственного состояния как своей сущности я описал в заметках по Психогенной Сингулярности. В этот момент психика становится точно такой же системой, как любое другое частное произвольное выделение, которое ЗА рамками выделения принадлежит Реальности, Существованию. Это точка полного демонтажа психики самой себя. Эту точку не может в принципе преодолеть никакая система, начиная с некоторой сложности, которая совпадает со сложностью психики человека, без того, что бы прекратить свое существование в рамках заявленного выделения.

Таким образом, я снова говорю, что психика, просто в силу своей конструкции, обречена на движение к точке Психогенной Сингулярности. Все векторы отслеживаются уже сейчас, я их упомянул. Более того, от этого движения не может быть выработана никакая защита, потому что в целом направление подчиняется закону минимального действия. Можно только понизить сложность психики каким-либо методом. Но будет ли такая система иметь право называться "человеческой психикой"? До тех пор, пока сохраняется способность к адаптативности, система находится под угрозой достижения терминальной точки сингулярности сложности.

Каковы конкретные механизмы нашего времени, приближающие психику к критической точке?
Самый главный – это уменьшение роли оценочной деятельности в состояниях психики. Оценочная функция основана на стабильной критериальности. Если критериальность необратимо подорвана – а сегодня в каком только направлении она не подрывается! – оценочность становится неблагодарным занятием с точки зрения стабильности и ресурсоёмкости психики. Прекратить это «глупое» занятие вольно или невольно призывает и философия постмодернизма, да и не только философия – весь постмодернизм.

Второй реальный механизм – это растущая независимость субъекта от общества и среды в целом. Это странная независимость, «сделанная» из полной зависимости, вообще-то говоря. Но это неважно в данном случае. Потому что для психики исчезает колоссальное количество связей, несущих в себе качество, в «норме» удерживающих психику в безопасном подвешенном состоянии вдали от критической поверхности собственного состояния.

Третий момент, производное второго: выталкивание субъекта социумом, «осиротнение» субъекта, обезличивание, сведение его статуса к формальной функции, подчеркнутое лишение качества даже в тех связях, что еще остаются.

Но что такое есть психика, из характеристик которой вычеркнуты оценочность, качественность, критериальность? Это и есть формальная программа с правом доступа к своим исходным кодам. Если для «нормальной» психики питательной мотивационной основой является широкое поле больших и малых жестких критериев, вокруг которых нанизывается оценочное «мясо», то для «ободранного» варианта предсингулярной психики набор критериальных узлов жесткости конструкции последовательно уменьшается, сдавая позиции, отступает к последней линии обороны. Парадоксально, но самый последний рубеж занимает принцип наименьшего действия, или наибольшей эффективности – на этот раз в чистом виде.

Давайте задумаемся, что такое эффективность с точки зрения выделенной системы? Это сохранение своих системообразующих параметров таким образом, чтобы это приводило к как можно более длительному существованию самой системы. Я говорю так потому, что полагаю аксиоматично: есть только одна наполненная абсолютным смыслом цель для выделенной системы: существовать. Смыслом не в нашем простом понимании смыслов, а как совпадение характеристики с выделением.

Представьте шарик, наполненный чем-то, что придает ему форму шарика и позволяет ему существовать в классе систем под общим названием «шарик». Воздухом, водой, дерьмом – не важно. Каким-то качеством. Если удалить все качество, шарик не будет иметь формы, и не будет относиться к прежнему классу. Так же и с наполнением психики. Ободранный от качеств, шарик психики схлопывается, и то, что было «эффективностью» раньше, уже таковой не будет являться.

Изменение системного наполнения по мере приближения к отражению своего собственного состояния как своей сущности является самым важным в понимании того, почему сложность систем терминирована. Потому что продолжающий действовать закон экстремумов уже не может быть безопасно приложен к наполнению, он прилагается непосредственно к системообразующим качествам, меняя их произвольно, трансформируя систему в другое-что-угодно. Понятно, почему не важно во что именно – потому что наполнение критериальности утрачено.

То, что здесь описано – это не экзотический предельный процесс, высосанный из пальца. Предельным он является только для самой сложной системы, предельно сложной. Но сам по себе процесс трансформации систем – это способ существования реальности, где одна часть отражает другие. Это все смертельно скучная банальность, за исключение одного утверждения: в какой-то момент сложность системы генерирует рекурсивные процессы, приводящие к демонтажу виртуальной части ее сложности, а вслед за этим – и к физической трансформации, редукции, уничтожающей основу для становления сложности выше той, что порождает терминальную рекурсивность.

Возвращаясь к вопросу ресурсов среды в плане экспоненциально развивающихся процессов, учитывая все сказанное, можно поставить под сомнение, что для психики, для человека в околосингулярною эпоху среда в обычном, сегодняшнем представлении будет иметь значение тормозящего фактора. Экспоненциальность роста всего, связываемая сегодня с техногенной сингулярностью, перейдет в психогенную плоскость без потери характеристики экспоненты, как до этого странным образом участки графика геологического развития Земли переходили в продолжение того же графика смены биологических эпох, которые переходили в процесс развития человека как вида, которые переходили в процессы социального развития общества, которые взлетели ракетой (но без разрыва одного и того же графика!) предсингулярной экспонентой, которая закончится коллапсом самой сложной системы, разрешенной в этой реальности - психики.

Заканчивая, не могу не пнуть в очередной раз мечтателей-трансгуманистов, эксгибиционистов своего линейного мышления.

Кто-то все еще думает, что молчание Вселенной – случайность, технический курьез?

Comments

[paradisemaker.livejournal.com]

Такое ощущение, что вы рассматриваете нелинейность как отрицательную обратную связь, но не учитываете, что есть и "положительная" нелинейность. Нужно в частности различать экспоненциальный и гиперболический рост. Например, в работах А.В. Коротаева, С.Ю. Малкова, А.С. Малкова, Д.А. Халтуриной, И.Л. Кирилюка и ещё ряда исследователей исследуется специфика гиперболического роста в социальных системах. См. например http://cliodynamics.ru/index.php?option=com_content&task=view&id=117&Itemid=1 В отличие от гиперболической экспоненциальная кривая никогда не уходит в бесконечность за конечный промежуток времени.

[sintxenoid.livejournal.com]

1.-самая сложная система, разрешенная в этой реальности - психика.
кажется довольно умозрительным заключением..
2. некоторые моменты выглядят несколько спекулятивными. можно ссылку на мат.обоснование? собственно, касаемо сложности систем и необратимого коллапса, редукции.

если (2) то:
3. anyways, how to hit the limit?

[muha-a.livejournal.com]

(это тот же Муха, что писал по почте)

Психика человека на данный момент уже достаточно сложна. Думаю, что механизм восстановления гомеостаза после повышения уровня осознания в психике уже предусмотрен.
Разве депрессия - это не защитный механизм психики против чрезмерного усложнения? Этот механизм может убить человека, как его может убить и любой другой внутрениий защитный механизм (например, слишком сильная имунная реакция).
Т.е. повышая свой уровень психика не погибнет быстро, радостно и зазря, а будет неоднократно отбрасываться внутренними механизмами назад.
Или вспомним в суе про идею бога. Верующий выносит мотив своего существования в неведомое (вера). Веди меня, я готов. Я слушаю команды орла и готов без оглядки выполнять их, знаю что так и надо, но не знаю почему. Разве не эффектный способ сохранения гомеостаза?
Верующий считает, что бог его ведет, а "на самом деле", бога нет, а идея бога просто позволяет сохранить гомеостаз. Разве первое и второе - не одно и то же? :)

Дальше, почему не предположить, что существует некая оптимальная линия повышения уровня осознания, придерживаясь которой можно двигаться вперед, демонтируя мотивы поведения но не нарушая гомеостаз и не впадая в депрессию еще достаточно долго (согласен, что не бесконечно)?

Примерно представляю почему вы не согласитесь в выше сказанным. Потому, что ваша позиция - позиция абсолютного релятивизма и "индифферентности".

Если вы рассматриваете мотивы действия человека, то это всегда относительные мотивы. Типа A лучше чем Б потому, что так записано в могзе человека, потому, что подобная запись позволяет поддерживать гомеостаз. Человек понимает, что А ничем не лучше Б, а дело только в его запрограммированности и все, мотивов действия больше нет.

Контр-пример. Нейронная сеть имеет некий принцип работы (пока нам неизвестный). Допустим, некоторый мотив поведения обусловлен непосредственно самим этим принципом. Т.е. есть нечто, чего сеть не может не хотеть до тех пор, пока она существует.
Другими словами, кроме относительных мотивов действий субъекта могут существовать мотивы, неделимо связанные с самой природой субъекта. Тогда для субъекта эти мотивы будут абсолютными и они могут служить опорой для поддержания гомеостаза.

Скажете не может быть таких систем? А разве эволюция на земле не шла сама по себе без всяких изначально заложенных мотивов?
Вы называете этот мотив "принцип наименьшего действия", но подобного принципа в науке не существует. Он ваше изобретение. В редукционистской картине мира нет никаких причин для существования систем с устойчивым гомеостазом и нет причин для повышения уровня организации этих систем. Эти причины лежат где-то глубоко в неведомом. Их очевидность иллюзорна и основана на опыте.

Еще один момент, вы говорите о замыкании субъекта на себя, и вследствие этого разрушение механизмов гомеостаза, оринетироавнных на внешний мир.
При этом вы по умолчанию считаете, что не смотреть в окно в физическом мире это и - значит замкнуться на себя.
Мне нравится, как эта проблема разруливается у кастанеды. Человек увлечен внутренними эманациями какона, но есть внешние эманации орла и человек способен их воспринимать.
Перефразирую. Человек запрограммирован исполнять собственную программу и эта программа раньше или позже исчерпает все что она должна делать и повистет. Физическая вселенная - это почти часть программы человека и ее можно не принимать в расчет. В то же время, существуют некие внешние команды, выполняя которые человек может продолжить повышение своего осознания.
Внешние команды из физического мира действительно не помогут в этом, потому, что они слишком просты для растущего сознания. Но есть другие варианты. Грубо говоря, как внешние команды можно рассматривать математические истины, но скорее это должно быть некие неуловимые потенциальные возможности осознания, существующие сами по себе.

С последним вы тоже не согласитесь. У вас, насколько я понял, мир существует рельно (хотя отражается субъектом неадекватно), а математика - индифферентна и порождена субъектом.
У меня наоборот - мир порожден субъектом, а истины математики реальны.

[muha-a.livejournal.com]

О принципе наименьшего действия. Во-первых, как вы сами написали, речь идет не о наименьшем действии, а об экстремальном. Т.е. иногда и о наибольшем. Т.е. ассоциации с гомеостазом не такие уж прямые.
Во вторых, этот принцип не имеет объяснения, а выведен на опыте. Он применим для тех случаев, в которых он работает. Принцип сам по себе выглядит довольно мистически. Кто его знает во что он выльется по отношению к сложным системам.
Пример, атом излучает фотон в случайном направлении. За 1 см от атома расположена стенка. Если исходить из принципа экстремальности, фотон должен излучаться всегда перпендикулярно стенке. Тогда его путь будет самым коротким. Но в этом случае принцип не работает, а работает случайность. Объясните почему?

Если определенные процессы в материи подчиняются принципу наименьшего действия, по это значит, что материя моего мозга тоже подчиняется этому принципу, но вовсе не значит, что этот принцип имеет какое-то отношение к тому что происходит в мозгу. Грубо говоря, если атом подчиняется закону ньютона, то это не значит, что психика подчиняется закону ньютона.
Всякая магическая сущность эмерджентности здесь не причем. Это просто трезвое суждение: нельзя обобщать принцип, смысла которого мы толком не понимаем.

> Возвращаясь к богу ( я уже подробно комментирую, надеясь на взаимопонимание :), то это тип защиты, который подпадает под автоматический демонтаж в точке психогенной сингулярности.

Эта идея вынесена в неизвестное по определению. Т.е. если вам что-то удалось демонтировать - в этом не было бога (хотя казалось, что он там), а он отодвигается дальше в то, что еще не демонтировано и так далее. Похоже на морковку перед носом ишака :).
Если эта идея является мотивом действий, то сингулярность не настает.

[muha-a.livejournal.com]

> Моя точка психогенной сингулярности – это получение доступа к своим исходным кодам, к своему ДОСу, так сказать. Никто никак не смог возразить мне пока что…

Как вы собираетесь получить доступ к коду, который заставляет вас, например, копать в направлении, где вы осознаете, что вас на самом деле нет и все такое?
Когда вы сможете осознать что заставляет вас это делать, вы будете делать что-то еще, гораздо более высокоуровневое и снова не будете иметь возможность осознать зачем и как вы это делаете.
Если программа хочет понять себя, она должна стать сложнее, но тогда она снова поймет не себя, а первоначальное свое простое состояние и так далее.
Или вы имеете ввиду, что у нас появится физическая возможность по своему усмотрению программировать в себе мотивы? Любой может кастрировать себя и отключить основной мотив. Но разве много людей спешат это делать? :)


> Что дает вам основания полагать, что «механизм восстановления гомеостаза после повышения уровня осознания в психике уже предусмотрен.»?

Пример.
Эволющия всегда работает экономно, а потому на перспективу. Как программист я тоже неоднократно использовал этот прием. Вам дают задачу из разряда хочу чего-то не знаю чего. Вы разбираете предметную область и ее проблемы до философского фундамента, где остаются одни абстрактные категории и составляете программу, которая эти категории крутит. К тому моменту, как пользователь решит что он конкретно хочет, получается, что его проблема уже может быть решена в рамках этого продукта простой настройкой. ВНИМАНИЕ! При этом полученная программа намного проще, чем программа, которая получилась бы если бы вы в лоб решали проблему, которую поставил пользователь.

Та же хрень с эволюцией. Если эволюции нужны крылья, то она не компанует в гены форму крыльев. Она компанует теорию полета. Потому, что теория полета проще чем крылья.
Если эволюции нужен инстинкт размножения и инстинкт хищника, то она не станет разрабатывать их отдельно. Она слепит теорию отношения к другому существу (побочный эффект плохой настройки - убийца возбуждается, а любовник убивает).
Если эволюции нужен гомеостаз психики, то она не хранит в генах параметры для его работы. Она наверняка хранит в генах теорию сохранения гомеостаза.

Почти всякому, кто задумывается над теорией Дарвина понятно, что тупо и в лоб она не может работать. Нужно что-то еще. Вот этот принцип, который я описал выше возможно часть того, что не хватает теории эволюции. Думаю, что он кем-то еще описан. Если бы не подобные принципы, дегенерация всегда была бы выгоднее ароморфоза.

Эсли этого не досточно, еще пример. Было облако газа в космосе, без всяких мотивов. Прошло 5 миллиардов лет, имеем жизнь и психику. Что двигало этим процессом? Почему вы считаете, что с момента достижения психикой определенного уровня сложности этот вселенский закон должен вдруг стать безразличным к дальнейшему развитию этого сгустка материи? Мы не понимаем почему процесс шел, тогда как мы можем делать вывод, что ему пора остановиться?

> «Нейронная сеть имеет некий принцип работы (пока нам неизвестный). Допустим, некоторый мотив поведения обусловлен непосредственно самим этим принципом.»

> Не, не допустим. Принцип исключительной сложности психики основан на самозависимости процессов воспроизведения состояний. САМОЗАВИСИМОСТИ. Это все тут: http://hitthelimit.livejournal.com/1727.html#cutid1

Эту стаью читал вниметельнейше. Все понятно, но все белыми нитками шито :).
Не понял связь. Самозависимые процессы - это успешное средство. Но разве это значит, что цель не может задаваться самой структурой нейронной сети и таким образом все равно заставлять самозависимые процессы обслуживать эту цель.

[muha-a.livejournal.com]

Еще несколько замечаний.

> Что касается вашего примера с фотоном и стенкой, то это не отражает Принцип, потому что не заявлено взаимодействие фотона и стенки, не указана связь отражения.

Взаимодействия, связанного с наименьшем действием потому и нет, что принцип наименьшего действия не работает. Обычне взаимодействие фотона со стенкой есть. Согласно квантовой механике квантовая система обшаривает все возможные в перспективе пути к очередному состоянию, находит экстремумы и один выбирает путь, близкий к экстремуму. Это и есть ваш принцип наименьшего действия.
Он работает для зеркала, но не работает для стенки. Физики вам объяснят почему, но сути дела это не меняет: принцип наименьшего действия оптимизирует не все напропалую. Видимо, если он бы работал всегда, то вселенная моментально перешла бы в устойчивое состояние и замерла.

> Фуф. Еще раз, с остановками: вы пишете программу самосовершенствующейся системы.

Отвлечемся на минутку. Допустим я написал программу, моделирующую клеточный автомат размером со вселенную и запустил его. Будет в этом автомате работать принцип наименьшего действия? Нет. Потому, что в нем нет квантовой механики, которая выбирает экстремальные пути.
Можно ли написать программу, в которой принцип наименьшего действия работал? Этого никто не знает, насколько мне известно.
Т.е. программа сама по себе не может служить моделью для предсказания всяких сингулярностей.
И кроме того, если вы рассматриваете человека как программу, то эта программа должна быть порождена эволюцией, иметь доступ к окружающему миру, друзей и знакомых в интернете, которые будут втирать ей про сингулярности. Закройте меня одного, я сингулирую от самозависимости через месяц несмотря на полный набор действующих мотиваций.

Теперь дальше...

> Все идет классно, но потом анализ показывает, что в определенной области система тормозит. Изучаем проблему: оказывается, что программа не может совершенствоваться в области, контролируемой кодами, закрытыми для доступа. Разумеется, вы ввели в нее такую зону: самосохранение, стремление к саморазвитию, лояльность к человеку и т.д.

Не так. Я разрабатывал эффективно работающую программу и в результате эти принципы вошли в программу сами по себе, как часть самого принципа работы. Далее я искусственно дополнил эти принципы деталями, и кроме того, создал мотивы, работающие в противовес этим принципам.
При оптимизации я могу демонтировать эти надстройки, но не принципы. Принципы перестанут работать только тогда, когда "кокон" будет разбит и программа перестанет существовать, а это уже совсем другая история.

> Или скажем так: против чего вы, в сущности, возражаете? Против лимитирования сложности? Тогда надо целевым образом остановиться на сложности, не касаясь всех иных аспектов. Возможно, вы ее понимаете совсем не так, как я.

То, что растет в процессе эволюции я бы называл не сложность, а скорее "уровень организации".
Когда вы говорите сложность, то в воображении возникает картинка с тысячами шестеренок, крутящимися от друг друга, и теряющими зависимость от небольшого набора шестеренок, составляющих мотивацию, что приводит к остановке всего механизма.

Уровень организации - это нечто гораздо более трансцендентное. Здесь система не растет, а усложняется. Это разные вещи. В системе растет не количество симметрий, а изощренность (другого слова подобрать не смог) этих симметрий. Не видно причин, почему симметрии более высокого уровня организации неспособны поддреживать гомеостаз. Просто механизмы поддержания гомеостаза будут тоже более высокоуровневыми.

Может ли уровень организации повышаться бесконечно? Конечно нет. Но вы объясните почему :).

[muha-a.livejournal.com]

Как только я перехожу к деталям вы перестаете меня понимать.

Я не вижу каких-либо принципов вообще, которые могли бы указывать на то, будет или не будет психогенная сингулярность.

Вы говорите, что некий принцип наименьшего действия распространяется на выполнение программ и на психику. Что это за принцип? Приведите пример, разъясните.
Принцип из физики вообще не из той оперы. Не представляю как его можно расширить на что-то.

> Вы не можете задать мотивы, в программе аналог мотива - это переход, он задается программой.

Ну прямо сразу переход.
Вы бы взяли в качестве модели мозга хотя-бы перцепрон с обучающим модулем.
Перцептрон это не программа, хотя он и моделируется программно. Образно его скорее можно передставить как группу недалеких людей, которые голосуют принимая решение. Далее, если после решения пришел сигнал "не надо было это делать", голосовавшие за лишаются право голоса. И наоборот, если пришел сигнал "хорошо", то голосовавшим за добавляется вес. Еще, можно предствить, что голосование осуществляется через сложную систему выборщиков, чтобы система на была однослойной.
Для перцептрона мотивы - это то, что в обучающем модуле распознается как цели. Если поставить обучающий модуль в зависимость от самого перцептрона, тогда система в простом случает займется самоудовлетворением: будет придумывать себе цели и успешно их достигать. На первом этапе это дает положительный эффект (производные мотивы все же произрастают из первоначальных), а дальше начинается тотальное самоудовлетворение и деградация. В мозге явно имеется указанная обратная связь и явно имеется некий весьма фундаментальный механизм защиты от избыточного самоудовлетворения. Возможно это то, что Кастаньеда называл "самодисциплина".

Мотивы в обучающем модуле можно поделить на 2 класса: генетически заложенные и обретенные в результате обратного воздействия перцептрона на обучающий модуль.
Очень несложно заложить в обучающий модуль привлекаетльность женских ног и так же несложно выкинуть, имея доступ к обучающему модулю.
Самосохранение, стремление к повышению качества отражения мира и склонность ассоциировать себя с другими людбми (выносить свой статус на другого человека) - это гораздо более сложные мотивы.
Я не представляю себе как их запрограммировать. Легко запрограммировать, чтобы человек боялся зубов, когтей, высоты, жала, разрушения своего тела - но это все страхи легко преодолимы. По настоящему человек боится именно смерти как окончательного обесценивания любых мотиваций. Вполне вероятно, что эта боязнь неотделима от принципа взаимодействия перцептрона, обучающего модуля и механизма "самодисциплины".

Если вам понятна такая модель, можете попытаться объяснить как в ее рамках выглядит психогенная сингулярность, наступающая в результате повышения организации.

[muha-a.livejournal.com]

Все правильно.
Обучающий модуль, который знает что такое хорошо и что такое плохо - это черный ящик.
Об устройстве его нету даже толковых гипотез. Примеры, которые вы привели - это неудачные попытки создать эффективный обучающий модуль. Математики этого сделать не могут, а природа сделала.

Можно предпожить, что обучающий модуль это полный аналог извествных нам модулей, но толко более сложный. Тогда удаляя мотивацию за мотивацией из модуля мы прийдем с одной стороны к повышению уровня организации сети и более точному отражению реальности сетью, но с другой стороны к прекращению обучения нейронной сети и повисанию мозга. Это и будет психогенная сингулярность.
Пример. Мне ничего не хочется, я понял запрограммированность своих желаний и потерял интерес к их удовлетворению. Если бы нас создали инопланетяне для решения определенных задач, то так бы мы и кончили.

Или можно предположить, что в работе этого модуля заложены некие глобальные принципы, нам пока не извествные, которые позволяют восстанавливать гомеостаз за счет генерации новых более общих мотиваций взамен удаленных более конкретных.
Пример. Я понял запрограммированность своих желаний и потерял интерес к их удовлетворению, но у меня родились новые желания более высокого уровня. Например, желание повышать точность отражения мира (не физического мира, а вообще всего) в моей психике. А потом еще что-нибудь.

[muha-a.livejournal.com]

> Хм. Короче, вы предпочитаете считать, что есть некий таинственный принцип сохранения сложной системы, при этом коситесь на работающие, очевидные принципы реальности.

Точно. Причем это скорее не принцип, а возможность. Для каждой отдельно взятой системы вероятность гибели высока, но вероятность продолжения тоже есть.

> Какие у вас претензии к математикам? Не смоделировали в формулах человеческую психику? А кому это надо, если понятны принципы?

Мне не понятно как работает обучение у животных и человека. То о чем вы пишете это не принцип.
Это только грубая модель. Дело не в количестве формул, а в понимании. Понимания нет.

> Вспомните хотя бы мой любимый сливной бачок.

Бачок - это грубая модель, не отражающая всей проблемы.
Вселенная и эволюция существуют благодаря неким базовым принципам бытия. Как только мотивация живого существа усложняется настолько, что входит в зацепление с этими принципами, существо уже не бачок.
Оно не выполняет то, что в него заложено, оно реализует свою природу.

Есть вещи относительные, а есть абсолютные. Если мне больше нравится красное чем зеленое, то это вещь относительная. Для кого-то другого зеленое лучше красного. Если мне больше нравится развиваться чем деградировать, то это не относительно. Я существую как результат развития природы, развитие - неотделимая часть моей природы. Это компас, который нельзя отнять или скрыть. Развиваясь я следую своей природе.

> То, что вы сейчас проталкиваете - это идея бога практически в рафинированном виде, почему я всегда и был склонен называть всех людей верующими.

А исходя из того, что вы проталкиваете мир вообще не должен сущестовать. Это было бы очень просто и логично. В самом деле, с какой стати должны существовать все эти законы, атомы, эволюция.
Все это работало, крутилось и развивалось, но как только появились мы, тут типа должна начаться деградация и разрушение, потому как миру нет до нас никакого дела.

[muha-a.livejournal.com]

> Однако, абсолютный ум, который постиг корни всех своих целей, может осознать их бессмысленность.

Ум не может постичь корней всех соих целей, поскольку эти корни растут из сути бытия, которая не может быть окончательно познана умом. Кастаньеда считал, что полное осознание разрушит кокон и человек станет не тем, чем он является сейчас. Можно принять и такой вариант. Но это не элементарное повисание программы. Хотя, извне может так оно и будет выглядеть :)

[muha-a.livejournal.com]

Я же говорю. Самозависимая ситсема это крайне неполная модель. Модель повиснет, а реальная психика нет.

[antheus1.livejournal.com]

Пока только пролистал, не прочел, но ясно, что тема жизненно, экзистенциально важная.
Если я не ошибаюсь, у Вас она несколько слишком естественнонаучно поставлена.
Посмотрите: http://community.livejournal.com/ru_history/1865783.html
2-я и 3-я части опубл. 3 и 4 июня там же.

[turchin.livejournal.com]

вот один мой перевод и одна статья в тему:

Юдковски. Три школы сингулярности.
http://www.proza.ru/2009/02/05/432


это моя статья про то, как сингулярность произойдёт в психике.
Магическая сингулярность.
http://www.proza.ru/texts/2008/08/03/472.html

[turchin.livejournal.com]

всё же не понятно из вашего текста, о чье психике идёт речь - о психике каждого отдельного человека или о некой средней психике человечества в целом? или о всей совокупности мировой культуры?