Предел? Есть предел!

[hitthelimit]

Эта заметка – попытка формализовано показать наличие принципиального ограничения для максимальной сложности систем.

 

 

Эволюция нервной системы (НС) достаточно хорошо изучена. Это выдержка из Википедии, дающая беглое представление об её основных этапах:

 

«Диффузная нервная система — представлена у кишечнополостных, можно считать ее прообразом ретикулярной структуры ЦНС позвоночных. Нервные клетки равномерно распределены по всему телу животного, и при раздражении одной даётся генерализованный ответ — реагирует все тело.

• Диффузно-узловая нервная система — некоторые нервные клетки собираются в ганглии (нервные узлы). Такой тип нервной системы представлен у плоских червей.

• Узловая нервная система, или сложная ганглионарная система — представлена у полихет. Выделяется сегментация нервной системы, ганглии более дифференцированы, клетки в них специализированы и обслуживают отдельные органы. У моллюсков ганглии огромны, и настолько хорошо развиты, что позволяют вырабатывать условные рефлексы. У головоногих моллюсков же сложное объединение специализированных ганглиев с развитыми связями между ними образуют «протомозг». У членистоногих в головном отделе несколько крупных ганглиев объединяются. Это объединение может также формировать слои — то есть быть прообразом кортиколизации («грибовидные тела»).»

Если представить множество состояний НС как фазовое пространство (ФП), то можно предположить, что смысл её прогрессивной эволюции заключается в увеличении количества точек ФП, причем рассматриваются только точки, сохраняющие свою стабильность в течении времени, длительность которого достаточна для того, чтобы НС побывала в этой точке хотя бы дважды.

Эволюция начинается с НС с ФП состоящим всего из двух точек. Это НС со способностью к генерализованному возбуждению или покою (гидра). Далее происходит последовательное структурное наращивание с функциональным усложнением. При этом можно выделить два системообразующих процесса: а) возбуждение становится всё более структурно (органо)–специфичным, б) возбуждение становится все более функционально–специфичным. Процесс а) говорит о появлении структур в НС, обслуживающих отдельные органы и системы, а процесс б) связан с тенденцией сохранения всей НС в виде единого образования, с тем, чтобы её специфические реакции всегда по возможности оставались в рамках требований общего гомеостаза всего организма.

В терминах ФП это можно представить как увеличение числа точек на фоне его последовательной структурализации. Можно говорить о кластерах ФП функционально обособленных структур НС в фазовом пространстве НС как целостной структуры.

Смотрим на эволюцию дальше.

Баланс между процессами вида а) и б) определяется тем фундаментальным фактором, что эволюционно приоритетными являются тенденции, обеспечивающее выживаемость организма, а не улучшение функций частных органов и систем. Т.е. тенденция б) всегда будет идти несколько опережающими темпами. Это подтверждается сравнительным анализом структуры НС высших животных и организмов, стоящих на низших ступенях развития. Речь идет о том, что весь поздний этап развития НС практически целиком заключается в наращивании функции типа б), что привело к развитию ЦНС и корковых структур.

В терминах ФП это соответствует превалирующему росту числа точек ФП НС как целостной структуры. В целом структурализацию ФП НС можно охарактеризовать как появление вертикальной иерархии, имеющей вид конуса, стоящего на вершине. В основании находятся точки, соответствующие состояниям специализированных участков НС, число этих точек сравнительно невелико, и динамика увеличения их количества незначительная. Расширяющаяся вершина содержит быстро растущую популяцию точек состояний высших, новейших структур НС, в первую очередь – корковых.

Посмотрим теперь на эволюцию аттракторов состояний в ФП НС.

В примитивных или узко специализированных частях НС с небольшим количеством фазовых точек точка равноценна аттрактору, и пребывание в данной точке зависит практически целиком от внешних факторов. По мере роста связности специализированных участков (процесс типа б) точки группируются в кластеры вокруг общего (единого для данной группы точек) аттрактора. С учетом этой тенденции можно говорить, что вероятность пребывания системы в районе данного аттрактора начинает складываться из двух факторов: суммы внешних к НС влияний и текущих состояний собственно НС, самозависимость которых эволюционирует в сторону все большей выраженности. (Эта самозависимость носит рекурсивный характер, и является одной из основных характеристик сложности системы, наряду с общим количеством фазовых точек).

Эта тенденция имеет свой эволюционный вектор:

В верхних уровнях опрокинутой пирамиды вторая составляющая причины пребывания НС в том или ином аттракторе становится превалирующей. Наиболее четко этот процесс в чистом виде наблюдается в условиях сенсорной депривации при ещё достаточно высокой активности ЦНС.

Наибольший интерес представляет анализ тенденции эволюции НС типа б) в пределе, если таковой существует.

Первое, что приходит в голову: процесс (эволюция) подобного рода должен иметь принципиальное ограничение. Например: простой электронный генератор колебаний с предельным циклом в качестве аттрактора. Если собрать схему посложнее таким образом, чтобы реализовать время-зависимую функцию увеличения частоты колебаний, то в какой-то момент колебания прекратятся, потому что исчезнет положительная обратная связь из-за слишком высокой частоты.

НС является безусловно динамической системой. Её эволюция носит двоякий характер: становление (развитие) по типу б) в филогенезе, и функциональная динамика реальной НС, в рамках которой процессом становления можно пренебречь.

Идея данной заметки следующая: показать, что эволюция становления в некотором пределе приводит к прекращению функциональной динамики НС. Если провести аналогию с прекращением генерации колебаний автогенератором, то получаем следующее:

Факторы, определяющие существование систем: наличие напряжения и положительной обратной связи для генератора; наличие условий для поддержания гомеостаза организма и наличие факторов, поддерживающих ЦНС в активном режиме. Эволюционирующими будут вторые по перечню факторы: положительная обратная связь и факторы активности. (В примере с генератором положительную обратную связь можно подавить, а для ЦНС можно устроить сенсорное голодание). В терминах становления, для генератора это движение схемы увеличения частоты к своему аттрактору (к частоте отсечки генерации), а для ЦНС (на этом уровне вполне уместно говорить о психике) это движение к полной самозависимости (100% рекурсивность).

В таком представлении, кажется, пока ещё нет ничего угрожающего: в обычном режиме работы психика все время скачет по точкам диапазона, от полностью зависимых от внешних факторов состояний, к практически полностью самозависимым. Теперь вспомним о тенденции становления типа б): количество фазовых точек быстро растет, и сам процесс является примером положительной обратной связи. Точки ФП объединяются в кластеры со своими аттракторами, кластеры снова функционально объединяются и так далее. Получается следующее: психика все больше «слышит» себя, и все меньше – сигналы, внешние к ней. Но это касается и факторов ее же активности. Сама по себе психика, как самая высшая функция НС, не имеет своего, «встроенного» фактора активности, а значит и фактора существования. Все части биологического организма завязаны на общий гомеостаз. Попытка отдельной подсистемы потянуть одеяло на себя заканчивается для организма плохо. Примером самостоятельного преследования частного системного гомеостаза можно считать аутоиммунные реакции, которые иногда здорово отравляют существование. Психика делает это особенно легко, что дает возможность говорить о формировании в ФП аттракторов или их групп без всякой связи с требованиями гомеостаза организма в целом. Это смертельно опасная для организма особенность психики, но она существует давно.

Мне кажется, что в настоящее время ситуация с психикой, долгое время сохранявшей почти неизменный статус-кво, принципиально меняется. Это косвенно связано с комплексом процессов в мире, гипотетически ведущих к цивилизационному кризису (сингулярности). Сейчас психика во все большей степени вынуждена наращивать количество точек своего ФП под давлением социальной среды в ущерб обслуживанию запросов, связанных с гомеостазом собственного носителя. Психика вообще характеризуется линейностью отражения процессов реальности, и вызов экспоненциального изменения существенных для нее качеств в окружающем мире может стать критическим.

Практически, если говорить о факторах нормальной активности психики, то это в первую очередь комплексный фактор, который мы называем инстинкт самосохранения. Его сущность не имеет прямого отношения к психике, просто психика формируется с учетом его влияния. Это влияние чрезвычайно легко устраняется психикой, что может привести к суициду. Однако, обычный суицид – это не совсем то следствие, которое здесь рассматривается. В терминах ФП и аттракторов, стандартный суицид – это формирование (патологическое по стандартным меркам) сверх-устойчивого аттрактора, попадая в поле которого психика уже не может вырваться. Нормальный процесс последовательной смены фазовых точек прекращается, что еще больше фиксирует психику на ограниченном множестве точек аттрактора. Поскольку нет нормальной смены точек, постольку психика лишается возможности попасть в точки обслуживания потребностей организма, и человек погибает.

Даже вне связи с надвигающимся цивилизационным кризисом, медленный прогресс НС типа б) должен был бы привести к полной самозависимости психики, когда никакой фактор существования не может быть активным для нее – психика его просто не будет чувствовать. Этот фактор должен быть теперь встроенным в психику, как в программу можно встроить фактор ее активности, доступ к которому сама программа иметь не должна. Но начиная с некоторого уровня сложности программы это требование становится не выполнимым. По этой причине принципиально невозможно создание мощного ИИ с эвристическими способностями: едва начав работать, он необратимо зависнет. Это значит, что он окажется в определенной точке своего ФП и будет там удерживаться аттрактором, который появится почти сразу после начала работы. Физический смысл появления такого аттрактора, и у человека с психикой в точке Психогенной Сингулярности, и у зависшего суперкомпьютера один и тот же: полностью самозависимая система стремится к достижению наименьшего действия, результат которого не совместим с признаками устойчивого существования открытой динамической неравновесной системы.

Хотя рассмотрение выполнено на примере НС, оно без изменений экстраполируется на сложные системы любой природы, при том, что смысл сложности остается неизменным: это показатель количества устойчивых точек ФП системы и уровня самозависимости процессов перемещения между этими точками, их формирования и формирования аттракторов в структуре ФП.

Это значит, что во Вселенной не может быть систем, принципиально сложнее нас. Значит, нет цивилизаций, принципиально более развитых, чем наша. Поэтому космос «молчит».

Comments

[boldachev.livejournal.com]

Не очень понял саму постановку проблемы максимальной сложности. Что может значить сложность сама по себе?

Ну а самое главное, все рассуждение строиться на признании редукционного подхода к психической деятельности - допущении что она может быть сведена к функционированию нейронных сетей. Все исследования показывают на неправомерность такого допущения.

[hitthelimit.livejournal.com]

Я нигде не говорю о сложности самой по себе, а только сложность системы. Определение дано для степени сложности: показатель количества устойчивых точек ФП системы и уровня самозависимости процессов перемещения между этими точками, их формирования и формирования аттракторов в структуре ФП. Это может казаться не ясным, но это уже другой вопрос.

"допущении что она может быть сведена к функционированию нейронных сетей"

Разумеется, в рамках эмерджентности, конечно. Совершенно не понятно, чему такой подход не удовлетворяет? Собственное состояние системы - ключ к пониманию проблемы. Если вы отвлекаетесь от рекурсивной операции восприятия своего состояния (правильнее: если система не выполняет рекурсивной операции над своим состоянием), то так называемый редукционистский подход оказывается уместным и достаточным. Или вас смущает сложное поведение умного сливного бачка, не объяснимое редукционистски с позиций механизма рычага, поплавка и пробки? Вы ведь согласны, что с точки зрения научного подхода, речь может идти только о поведении системы, но никак не о ее собственных состояниях, которые не выносятся во вне. Т.е. заявление "у меня есть сознание" не имеет смысла вне рамок определенной активности. Не так?

"Все исследования показывают на неправомерность такого допущения."
Неужели? ВСЕ?

Я согласен, мой анализ чрезвычайно сырой и спорный, но говорить, мне кажется, есть о чем...

[boldachev.livejournal.com]

Ну мои вопросы касались не содержания вашего анализа, а его исходных оснований.
Про сложность я спрашивал, конечно, в вашем смысле - что может значить сложность системы? Ну сложная... Ну много у нее устойчивых точек... И что? Какое это имеет отношение к психике? Это совершенно не проверяемо.

Эмерджентность - модное удобное словечко, что бы заткнуть им дыру, свести концы с концами при редукционистском подходе.

>>Собственное состояние системы - ключ к пониманию проблемы.<<
Только вы уверены, что ваше поведение (продукт вашей психики) возможно свести к состояниям нейронных сетей в вашей голове? Такая гипотеза есть - но нет убедительного обоснования. И куча данных свидетельствующих о том, что поведение коррелировано с состоянием системы сильно превосходящей по сложности и размерам нашу черепную коробку.

Но и это лишь вопрос методологии и исходных оснований исследований.
Посмотрите, что в последних работах писала Бехтерева (в сети есть ее последняя книга), многие десятилетия безрезультатно пытавшаяся увидеть связь между состоянием мозга и разумным поведением.

[hitthelimit.livejournal.com]

Это проверяемо: вы сами сказали - поведение. Если говорить в функциональных терминах, то модель в виде фазового пространства возможна. Функциональная модель не требует обоснования структуры. Это с одной стороны. Но с другой стороны, сравнительная нейропсихофизиология говорит об эволюционной последовательности роста сложности поведения с ростом сложности НС. Разница в строении мозга шимпанзе и человека вполне коррелирует с разницей в их поведении. Даже планирование на будущее подтвердили у приматов. Куча статей по зоопсихологии. Все упирается в мифическое сознание...

Редукционистский подход - удобная фраза, что бы заткнуть дырку при непонимании принципов, заложенных в основе сложного явления.:) Не обижайтесь, просто отзеркаливаю.

"Такая гипотеза есть - но нет убедительного обоснования. И куча данных свидетельствующих о том, что поведение коррелировано с состоянием системы сильно превосходящей по сложности и размерам нашу черепную коробку"
Нет, право, мне это не известно. Ссылка на позднюю Бехтереву, имхо, никому в зачет не пойдет :) Я не думаю, что это очевидно, ваше утверждение. Сложность структуры мозга трудно переоценить. А кто именно его так сильно недооценивает?
И вообще, я не понял, куда вы клоните? Если не мозг, то что? Вселенский разум? :) Это ваша альтернатива моему редукционизму?

Уточнение?

[votre-dame.livejournal.com]

Простите, это которая Бехтерева?
Которая мечтала стать училкой музыки, а стала физиологом, потому что того требовала семейная традиция и суровый отец, всю жизнь называвший свою дочь - идиоткой?
Та, что ездила к бабке Ванге погадать и рыдала от умилительных прозрений последней?

Сорри. Ссылка на Бехтереву равнозначна ссылке на высокоморальность Ридигера или Ратцингера...

редукционизм и проч.

[hitthelimit.livejournal.com]

Итак, имеем попытку интерпретации сущности эмерджентности :), или, говоря по-русски, «появление уникальных системных качеств».
http://www.boldachev.com/text/intellinevol/1/

С вашего позволения, начну с главного: вы вводите «принцип упрощения элементов» в процессе появления следующих иерархических уровней. «В качестве эмпирически достоверного факта можно принять принцип упрощения элементов эволюционных уровней: функционирование элементов каждого последующего иерархического уровня принципиально примитивнее функционирования элементов предыдущей эволюционной системы.»

То есть вы говорите о Сложности, при этом нигде о её сущности не говоря.

Далее, такой принцип подразумевает высокую исходную сложность (?) неких структур, которая потом может выступать в качестве сравнительного эталона для новообразующихся на более высоких иерархических уровнях. Что это за исходная структура? Начнем с редукции волновой функции? Одна из самых первых в иерархии структур с эмерджентными свойствами – водород, где объединены в устойчивую структуру две сущности, две редукции ВФ, протон и электрон. Конечно, есть ярко выраженные уникальные свойства у этого объединения. Но, что бы говорить о том, что сложность этой прото-системы выше всех последующих, надо произвести некоторое обоснование сложности, не так ли?

И немного по частностям:

01 «В качестве системного качества социосистемы можно принять РАЗУМ (интеллект) как основу производства социальных отношений, призванных обеспечить жизнь (биологическое существование) человека [2]» и это: «интеллект – это то, что определяет сущность социосистемы и ее элементов (людей)»

Заменяем «интеллект» на «психика», получаем то, что я говорю, и против чего вы возражаете: «Психика лежит в основе социальных отношений».

02 « хотя жизнедеятельность биологической клетки и представляет собой лишь последовательность химических реакций, однако биологические свойства этих молекул не распознаваемы (не фиксируемы, не формулируемы) на химическом уровне»

Вы отдаете себе отчет, что для написания этой фразы потребовалось присутствие системы со свойствами, отражающими свойства отраженного? Это будет хороший вклад в интерпретацию загадки эмерджентности? :)

03 «Так, биологические процессы обеспечения жизнедеятельности клетки проще, чем химические процессы, составляющие функционирование самой клетки. Производственные технологии в социосистеме, направленные на поддержание жизни человека, значительно примитивнее, чем биологическое процессы в его организме.»

А в верхнем пределе этой иерархической цепочки лежит нечто предельно примитивное?

04 «Постсоциальная система будет функционировать НА основе человеческого интеллекта и ДЛЯ обеспечения его деятельности.»

Вас не смущает выделение в длинной цепочке иерархических уровней «интеллекта» как опорного уровня? Он что, сам по себе? Все началось именно с него?

[hitthelimit.livejournal.com]

05 Я не понял ценности данного заявления: «Констатируется лишь, что развитие компьютерных систем с так называемыми элементами интеллектуальной обработки данных не приведет к созданию локального (практического, технического) искусственного интеллекта, то есть некоего прибора, функционирующего подобно человеческому интеллекту. Возвращаясь к аналогии с биологическими системами, можно утверждать, что локальный ИИ - такой же нонсенс, как и искусственная жизнь - гомункулус в пробирке.»

Если говорить об идентичности, то разумеется, вы правы. Но это и так очевидно.
Но не все под локальным ИИ понимают нечто идентичное человеческому. Я в таких случаях шучу, что никто не станет создавать искусственную систему, которая после третьего стопарика водки будет приставать с вопросом «ты меня уважаешь?». Интеллект – это способность к эвристической активности, такой активности в среде, когда поведение модифицируется устойчивыми воспроизводимыми метками прошлых отражений среды этой системой. Разумеется, это не исчерпывающее определение интеллекта. Но в этом плане – нет проблем. Точнее, проблемы как раз возможны, что нарушает идиллию ваших иерархических построений. Как на уровне интеллекта, так и на любом иерархическом уровне вообще. Сплошь и рядом в реальности имеются случаи, когда эмерджентность естественного развития становится фактором, терминирующим существование исходной системы. Это происходит в случае, если в фазовом пространстве состояний над-системы формируется устойчивый аттрактор под действием собственно эмерджентных свойств. Попав в зону такого аттрактора, над-система перестает функционировать. Правда, последствия для базовых структур при этом могут быть разными. Пример: последний финансовый кризис. Или любая терминальная генная мутация, когда на уровне всего организма нарушается (точнее – проявляется иным образом) некое отношение, некие связи, образом, несовместимым с существованием организма. Психика – кандидат номер один на такой исход. Фокус в том, что такие системы исчезают, мы не можем наблюдать их вокруг себя в больших количествах. Это фундаментальный принцип: устранение системоопределяющего фактора приводит к исчезновению системы.

06 Это утверждение не самодостаточно, не убедительно:
« Любая единичная техническая (компьютерная) система будет столь же далека от реального интеллекта, как и самое совершенное химическое производство от живой клетки. И дело не в сложности структуры и функционирования клетки или мозга, и не в низком уровне развития промышленных технологий и компьютерных алгоритмов. Живая клетка и человеческий интеллект – это, прежде всего, продукты непрерывной эволюции Мира, они являются единичными локализованными во времени и пространстве реализациями всего распределенного (накопленного) потенциала био- и социосистем, а не просто удачными случайными соединениями органических молекул и нейронов»

Вы здесь просто не учитываете того факта, что создавая искусственный (локальный) ИИ, человек вкладывает в него неявным образом, в виде своих способностей, весь тот самый эволюционный путь.

07 «...любое локальное устройство, моделирующее интеллектуальные процессы, в отдельности не может быть признано интеллектуальным,...»
Оно будет признано интеллектуальным не потому, что оно будет «моделировать интеллектуальные процессы», а потому, что эти процессы будут иметь тут же самую природу, сущность, что и человеческие, и вся мировая эволюция тут ни при чем. Кто-то признает эти процессы за интеллектуальные, кто-то нет, как и сам интеллект не есть нечто определенное. Не вижу никаких проблем здесь. Вы же сами дальше пишете: «ОНО будет интеллектом настолько, насколько мы сможем ЕГО понять своим человеческим интеллектом.» Если перефразировать с уточнением: «Насколько мы сможем понять свой собственный интеллект».

редукционизм и проч.

[hitthelimit.livejournal.com]

Естественно, смысл всей аргументации, моей и вашей, лимитируется нашим интуитивным пониманием эмерджентности.
Появление «уникальных системных качеств» должно быть зарегистрировано, только тогда оно есть, причем – в виде регистрации. Только то, что зарегистрировано, есть в наличии, как источник модели-регистрации, в регистрируемой системе. Из этого вытекает, что отражающая (регистрирующая) система, должна сама демонстрировать свойства, достаточные для полного (?) отражения внешних. Но такой процесс носит несколько тавтологический характер. Система может судить об эмерджентности, сама уже будучи носителем свойств этой эмерджентности.

Учитывая все сказанное (принимайте это не как критику, а как размышления вслух), у меня есть что сказать за проблемы мадам Бехтеревой. Ну, и за свой редукционизм тоже :).

Картина маслом :)
а) Свойства (принципиально возможные) человеческой психики полностью определяются свойствами структуры субстрата (мозга) индивидуума.
б) Свойства психики модифицируются эмерджентными свойствами системы «социум», при том, что степень модификации не выходит за рамки пластичности структурно-функционального субстрата психики.

Фишка в том, что свойств, равноценных тем, что получаются при модифицирующем влиянии социума, психика не в состоянии обеспечить в одиночестве. Это та часть, на которой (я полагаю) обламывается примитивный редукционизм в отношении психики. Но после того, как модификация достигнута? Какие проблемы?

Таким образом, психические свойства таки редуцируются к субстрату, в том смысле, как свойства водорода являются неизбежными только как системы из протона и электрона. И точно так же, как свойства водорода становятся совершенно иные при высоком давлении (речь уже идет не об одном атоме), так же может быть и с психикой с нарастанием «давления» эмержентных свойств над-систем, на которые психика завязана.

Водород в не газообразной фазе может рассматриваться либо как модифицированная исходная система, либо как принципиально новая система. Субъективно, проще считать это модификацией, потому что при возврате условий состояние восстановится. Значит, мы признаем пластичность исходной системы достаточной для давления новых свойств среды. Но если из водорода сделать гелий, то обратный процесс усложняется. Тут психологически хочется говорить о превышении лимитов пластичности.
В психике:
Если модифицирующее давление не превышает её структурно-функциональную пластичность, это приводит к появлению просто дополнительных аттракторов её состояний, а также наращивает количество точек в ФП. Если превышает - появляется терминальный аттрактор, в котором психика «зависает».
Таким образом, учет давления эмерджентного фактора на психику никак не меняет смысл моей постановки вопроса. Скорее, это указывает на неизбежность каких-то проблем на уровне исходного субстрата (психики), хотя бы по причине объективности процесса появления иерархических структур.

Я пытаюсь показать, что специфичность свойств психики как раз предрасполагает к её гарантированному зависанию в определенной точке, которой достигнет однажды давление развивающегося социума. И я указал причину – рост самозависимости процессов, что не свойственно в такой мере ни одной другой известной нам системе.

Re: редукционизм и проч.

[boldachev.livejournal.com]

Попробую ответить на некоторые вопросы, хотя, конечно, вы взялись за очень старую статью - после нее было много чего более содержательного и книга.

(1) не очень понял по какому принципу вы выделили главным в этом тексте «принцип упрощения элементов»? Так побочное суждение. Наверное, вы просто среагировали на близкое вам слово "сложность".

Для прояснения тезиса о "высокой исходную сложность" следовало бы обратиться к предыдущим текстам из большее серии "К парадигме глобального эволюционизма", иначе, если за исходные элементы принимать элементарные частицы получается ерунда. То есть вы анализировали текст вне общей логической и парадигмальной схемы. Отсюда и все нестыковки.

01 >>Заменяем «интеллект» на «психика», получаем то, что я говорю, и против чего вы возражаете: «Психика лежит в основе социальных отношений».<<

;))) Во-первых, понятно, что в тексте, в котором происходит однозначное разделение на
биологическую систему и социумную систему, и в качестве системноо качества последней указывается "интеллект", то и речи не может идти об отождествлении «интеллекта» на «психики» - последняя вполне вписывается в биологические рамки (сами упоимнали об этологии). Во-вторых, я надеюсь, вы ощущаете разницу между фразами "интеллект – это то, что определяет сущность социосистемы и ее элементов (людей)" и "Психика лежит в основе социальных отношений". Их хоть как-то можно было связать, если бы в моей фразе было опущено "сущность социосистемы", то есть если бы интеллект преподносился не как системное качество социума, а лишь как частное качество человека, принадлежащее ему вне социумной системы. Так что ваш логический перескок принципиально некорректен.

03. >>А в верхнем пределе этой иерархической цепочки лежит нечто предельно примитивное?<<
Да - в частности отношения между элементами компьютерной сети ;).

04. >>Вас не смущает выделение в длинной цепочке иерархических уровней «интеллекта» как опорного уровня? Он что, сам по себе? <<
Не понял - вроде все повествование шло в русле отказа от антропоцентризма. Где вы уловили опорный уровень? Достаточно было принять во внимание предыдущее (относительно цитируемого вами) предложение "Как биопроцессы не заменили химические реакции, а, по сути, явили собой лишь сложную их последовательность, а функционирование социума не исключило биологическую (жизненную) сущность человека, так и постсоциальная система не только не заменит человеческий интеллект, но и не превзойдет его", чтобы понять, что фраза "Постсоциальная система будет функционировать НА основе человеческого интеллекта и ДЛЯ обеспечения его деятельности", совершенно аналогична, к примеру такой: "социальная система будет функционировать НА основе биологического организма и ДЛЯ обеспечения его деятельности". То есть ни какого опорного уровня - тем более на уровне интеллекта.

05 >>Я не понял ценности данного заявления...<<
Имелось ввиду только то, что написано: не идентичность, а локальность (пространственная). Понимаю, что вы думаете по другому. Ваша позиция мне понятна.

06 >>Вы здесь просто не учитываете того факта, что создавая искусственный (локальный) ИИ, человек вкладывает в него неявным образом, в виде своих способностей, весь тот самый эволюционный путь.<<
Пока человек не смог локализовать в виде искусственного объекта живую систему, не говоря уж об интеллектуальной. Тут рассогласовании на уровне методологий - вы пытаетесь описать человеческий интеллект как локальный, а следовательно допускаете и возможность локализации искусственного. Я в этом сомневаюсь, вернее, уверен в нелокальной, а системной природе интеллекта. Подождем. Пока для выбора между позициями нет достаточных оснований.

07 Тут, конечно, все упирается в термин "интеллект", к пояснению которого я подошел в более поздних текстах (см. Восхождение к интеллекту).

Re: редукционизм и проч.

[boldachev.livejournal.com]

Я принципиально не люблю термин "эмерджентность". Он выглядит этакой затычкой. То есть некое внешне проявленный феномен (эмерджентный), пытаются объяснить наличием некоего свойства, продуцирующего это феномен - эмерджентностью. Типа как в старину: теплоту теплородом ;). Поэтому для себя считаю использование этого понятия недопустимой тавтологией. Когда же другие его употребляют, то понимаю, что хотят указать на некое ограничение редукционизма (иначе все можно было бы объяснить нормальными совойствами элементов).

И картину маслом не понял - не было в тексте ни редукционизма, ни тем более никакой "эмерджентности" - ну не шла речь о механизме появления "уникальных системных качеств".

Далее вы пересказывали свою позицию, которую, как мне кажется я уже понял, и ничего против нее возразить не могу.

Правда, не очень соображаю какое отношение ваша позиция имеет к анализируемому тексту? Такое впечатление, что вы вырвали из текста два слова "интеллект" (отождествив его с "психикой") и "сложность" особо не вникая в остальное содержание.

Но это нормально. Каждый ищет то, что ему интересно. Большое спасибо за разбор.

Re: редукционизм и проч.

[hitthelimit.livejournal.com]

«на данный момент нет никаких подтверждений возможности редукции психики к нейрофизиологии»
Я так полагаю, с помощью Votre Dame и порывшись в сети, вы сняли это утверждение?

«Ваша позиция вполне понятна и я совершенно не собираюсь оспаривать ее научность.»
Хм. А мне не очень понятна, и я бы оспорил.

«Проблемы с чистым редукционизмом появляются уже на уровне химии. Биологические феномены уже принципиально несводимы (в строгом детерминистическом смысле) к химизму. Понимаю, что это общие фразы. Вы их много раз слышали. И если не согласны с такой постановкой проблемы, то и хорошо - это нормально. Право каждого исследователя иметь свою четкую позицию.»
Там, где начинается плюрализм мнений, заканчивается наука. И начинается философия. В данном случае – это уровень онтологии. Онтология науку не затрагивает никак, кроме как через состояние мозга конкретного ученого, который может начать пытаться делать что-то в науке не научными методами.
А в рамках плюрализма, прости господи, замечу, что задаваться вопросом редукции и эмерджентности - это в точности то же самое, что задаваться вопросом о Реальности. Если кто-то полагает, что можете предложить хотя бы намек на интерпретацию принципа Реальности, то у него не все в порядке с головой. Реальность уже здесь. Вместе со всеми мыслимыми уровнями и переходами между ними. Все уже возникло. Туда – эмерджентность, сюда – редукция, а постоянная Планка равна 4.14*10-15 эВ*с. Бум, продано.


«...хотя, конечно, вы взялись за очень старую статью»
Между прочим, вы послали. Туда и пошел... :)

«То есть вы анализировали текст вне общей логической и парадигмальной схемы.»

Секундочку. Да, я вас понимаю. Поймите и вы меня.
Есть такая задачка:)
Вам предлагают на выбор три закрытые коробки, в одной приз. После того, как вы выбрали одну коробку, ведущий убирает одну коробку без приза. Вопрос: что лучше с точки зрения получения выигрыша: поменять выбранную коробку на оставшуюся или не менять?

Тут есть три варианта поведения человека, решающего эту задачу.
Первый: настаивать на равнозначности любого поведения, или на одном из вариантов, не понимая подоплеки дела, а исходя из субъективных предпочтений.
Второй: будучи знакомым с математикой просто знать, в чем фишка, и правильно назвать решение.
Третий: понимать (понять) принцип задачи без связи с математикой (прямое понимание).

Примерно в таких трех аспектах ведут себя люди, когда состояние их психики толкает их в русло активной психической деятельности, связанной с определением своего выбора.

Можно написать много, просто через написанные словосочетания пытаясь стабилизировать свою психику. Что написано – не важно, важно, что бы оно коррелировало с внутренними состояниями пишущего. Попытка что-то подправить в филармонии тексте извне приводит к истерике. Наиболее выраженную клинику подобного рода я нашел тут: http://www.chivorepla.narod.ru/ Это, так сказать, один конец диапазона. На другом конце диапазона толкутся немногочисленные «отщепенцы», активная психическая деятельность которых связана с единственным желанием: достижение чистых пониманий по интересующих их вопросам. Эта категория людей остро осознает, что любые интерпретации, основанные на посылках – ложны. Они хотят видеть вопрос, точно так, как его можно видеть в примере с тремя коробками.
Внутри этого диапазона толкутся все остальные.

Re: редукционизм и проч.

[hitthelimit.livejournal.com]

Я многократно сталкивался со случаями в сети, когда сам становился и жертвой, и субъектом изучения: как быстро и поточнее определить место человека на этом диапазоне? Потому что время жаль, да и психический ресурс можно использовать по-другому. Методы, которые применяют для этого люди, разные, и в целом зависят от их положения на диапазоне. Те, что ближе к клиническому концу, спрашивают специальность, диплом, звания, возраст. Те, что ближе к другому – ищут, что человек действительно понимает. Там еще много интересного (надо бы написать статейку на эту тему, приятно сдвинувшись в клинику :)... Так о чем это я?... А, вот.

Ваша парадигмальная схема основана на фундаментальном понимании чего?

Это не наезд, это прагматика. :)
________________________
01 В рамках наших дебатов о редукционализме, замечу, хотя, видимо, начинаю надоедать: психика полностью определяет интеллект. Даже если включить помощь всей сети. Движение машины полностью определяется сущностью машины. С горы – быстрее, в гору – медленнее... Но только так, как может эта машина.

03 Я имел в виду вселенский предел :) Надо полагать, там бог в виде точки... :)

04 «Пока человек не смог локализовать в виде искусственного объекта живую систему, не говоря уж об интеллектуальной. Тут рассогласовании на уровне методологий - вы пытаетесь описать человеческий интеллект как локальный, а следовательно допускаете и возможность локализации искусственного. Я в этом сомневаюсь, вернее, уверен в нелокальной, а системной природе интеллекта. Подождем. Пока для выбора между позициями нет достаточных оснований.»
Может и нет, но есть что сказать. Вы ведь слышали о симуляторах? Разных, модельных, программных... Человеческий интеллект локален как машина, но системный, как движение на магистралях. ИИ не имеет никакого отношения к биологической жизни. Он имеет отношение к харду, как человеческий мозг, и среде обитания, как человек к социуму. Обеспечьте ему активное состояние, как альфа-ритмы у мозга, всучите ему софтовую подделку инстинктов для исходных целеполаганий, поставьте ему декорации среды из софта (матрица), или дайте ему реальную среду и эффекторы. Смотря что вам надо. Где вы видите проблему?
Кстати, если вы регулярно читаете новости науки, вы обратили внимание: ребята в лабораториях не заморачиваются философией, они тупо моделируют механизмы отражения всеми доступными им способами. Технически – сложно. Методологически – какие вопросы? Заметьте, воплощается принцип сложности, который я здесь сформулировал: наращивается число устойчивых фазовых точек пространства системы и увеличивается ее самозависимость. ВСЁ!
(есть программа FACETS, к примеру http://www.strf.ru/science.aspx?CatalogId=222&d_no=18594 Можно конечно улыбаться, читая все это...)

Картина маслом – это мое видение сути, эмерджентность можно выкинуть без ущерба. Только не настаивайте, что вы не говорили о «появление уникальных системных качеств», и в этом меньше тавтологии, чем в заморском словечке. (Эмерджентность (англ. emergence — возникновение, появление нового) в теории систем — наличие у какой-либо системы особых свойств, не присущих её подсистемам и блокам, а также сумме элементов, не связанных особыми системообразующими связями; несводимость свойств системы к сумме свойств её компонентов; синоним — «системный эффект». Википедия.)

«Правда, не очень соображаю какое отношение ваша позиция имеет к анализируемому тексту? Такое впечатление, что вы вырвали из текста два слова "интеллект" (отождествив его с "психикой") и "сложность" особо не вникая в остальное содержание.»
Хороший вопрос :) Я читал вас, пытаясь лучше понять подоплеку вашей аргументации в моем случае. Логично?

Три комментария

[command-er.livejournal.com]

Первое соображение касается термодинамических законов, которым должна подчиняться сложная система. В принципе, жизнь возникла как ответ на термодинамическое неравновесие между Солнцем, Землей и космическим пространством. Поток энергии от Солнца рассеивается Землей с увеличением энтропии, и возникновение сложных структур, способствующих еще более интенсивному ее рассеянию - вполне закономерный процесс, термодинамический выгодный и оправданный. Разумная жизнь, скорее всего шаг в том же направлении. Поскольку неравновесность никуда не исчезает и будет иметь место еще необозримо долго, раз возникшие структуры также должны остаться в игре - в той или иной форме. Чисто динамический подход ничего об этом не говорит; и хотя термодинамические законы выводятся из анализа динамических моделей, все это делается только для частных ситуций, к тому же при условии, что уже заранее известно, что искать. Короче - термодинамические соображения следует использовать поверх динамических - они указывают некоторые направления, которые следует иметь в виду.
Впрочем, термодинамические подсказки очень скудные, и если сложные системы продолжат свое существование, термодинамика ничего не говорит о том, в какой форме они будут существовать.

Второе: я переформулирую проблему в огрубленном виде (может она так и звучала вначале?): функционирование мозга движется к некоторому пределу, когда он становится менее и менее зависим от сигналов извне и все более и более обусловлен собственными процессами. Этот процесс может принять такую форму, что осознание собственных процессов станет доминирующим, вытеснив неосознанные или инстинктивные импульсы. Проблема вырастает из того, что на уровне осознания единственным движущим фактором являются мотивы. А мотивационная сфера по своей сути совершенно недостаточна: любая цепочка целей исчезает в неосознанных импульсах, а, с другой стороны, поиск исчерпывающего смысла безнадежен. И то и другое обычно осознается досточно рано. По мере четкого осознавания ситуации сознание должно попасть в ловушку - из-за этой недостаточности мотивов, целей и смыслов.
Можно ли вообразить какой-то сценарий, который позволил бы избегнуть этого?
Мне кажется, что проблема, поставленная таким образом, неразрешима в принципе. Дело в том, что сама постановка проблемы уже вписана в мотивационную сферу и требует решения именно в такой форме - т.е. чего-то, имеющего некий смысл. А это - то же самый тупик.

Тем не менее, ничто не мешает допустить, в принципе, что сложные системы, наследующие мозг, станут обходиться без мотиваций. Как они будут функционировать - понять невозможно. Т.е. мы в принципе не можем этого понять, так как для этого надо спроецировать такой механизм на нашу привычную плоскость, где все должно обладать смыслом, и, по сути, потерять само решение. Возможно, что такие принципы уже существуют и работают. Но мы принципиально их не замечаем, да и они не представляют для нас никакого интереса. Более того, даже сама перспектива, возможно, не представляет никакого интереса - в силу ее перепендикулярности нашей смысловой системе.

Третье соображение пока в совершенно размытом виде. Мне кажется: что сознание можно связать не с любым внутренним состоянием, а только с теми, в которых имеется неопределенность, недетерминированность перехода (относительная, конечно). Там, где переход детерминирован, нет смысла говорить о сознании. Возможно осознание надо понимать как момент расширения фазового пространства состояний. В любом случае наличие сознания тогда будет увязано с неустойчивостью системы и принципиальной неопределенностью ее траектории.

Re: Три комментария

[hitthelimit.livejournal.com]

Относительно первого соображения – такая широта постановки вопроса даже меня останавливает :)
Относительно третьего – вот именно: с чем связать сознание? В смысле, с чем его вообще связать? Мой подход такой: то, что мы привычно называем сознанием – комплекс наших собственных состояний. Собственные состояний не отражаются непосредственно на других системах, таким образом, говорить тут не о чем. Фактически, с такой постановкой вопроса смысл сознания исчезает вообще. А вот то, что отражается, то можно интерпретировать.

Но самое интересное – это второе соображение. Сегодня считается признаком нормального мышления выдвигать гипотезы по подобному принципу. Но давайте еще раз: обходиться без мотиваций – в применении к системе вообще – что это значит? Это интерпретируется так: существование системы без детерминирующих ее существование факторов. Увы, для реальности, которую мы знаем – это полный нонсенс. Это имеет смысл только в том случае, если система все время переходит в нечто, не имеющее вообще никакой исторической связи с прежней своей сущностью! Я люблю фантастику, конечно... :)

Re: Три комментария

[command-er.livejournal.com]

Я не говорил об отсутствии детерминирующих факторов. Я не знаю, какими они могут быть, вот и все. Если внутренняя детерминация системы ею же самой интерпретируется как мотив, и если мотивы исчерпывают все детерминацию, но налицо тупик и система может зависнуть, так как мотивы (и смыслы) недостаточны. Во всяком случае такими мы их знаем. Но в этом предложении нет ничего, что было бы обязательным: внутренняя детерминация может получить другую интерпретацию - и как нам ее тогда понимать, в каких терминах выражать? и кроме того мотивы могут не исчерпывать всей детерминации.

Термодинамика - это так, для напоминания. Как дополнительная подсказка в случае чего.

По-поводу того, с чем можно связать сознание - настаивать не буду. Речь шла о недетерминируемых переходах. Если система проходит через такие моменты бифуркации, когда она застревает как шар на верхней точке, когда все факторы на мгновение уравновешиваются, то если таких точек достаточно много, то чувствительность к внешним влиянием может оказаться всегда значительной.
Даже если не связывать это с сознанием, тем не менее поведение систем, которые мы привыкли интерпретировать как сознающие, очень похоже именно на это - регулярное, чуть ли не непрывное прохождение по точкам равновесия.

Re: Три комментария

[hitthelimit.livejournal.com]

«внутренняя детерминация может получить другую интерпретацию - и как нам ее тогда понимать, в каких терминах выражать? и кроме того мотивы могут не исчерпывать всей детерминации.»

Это четкая аргументация, но не забывайте, что речь идет о специфической системе – психика. Психика по своей природе имеет дело с отражением аспектов Существования. Детерминирующий фактор является именно таким аспектом. Говоря то, что вы сказали, вы отнимаете у психики ее принципиальное свойство. Но и я не отрицаю, что проблема может решаться лоботомией :) Просто после этого мы отказываемся признавать психику за таковую.
Обратите внимание, почти все примеры «зависания» психики, которые имеют место, и которые не связаны с проблемами персональной психосоматики, связаны с давлением среды, главным образом - социума. Так что в принципе я говорю о реальном механизме, который уже есть. Я только указываю на тенденцию, в результате которой психика становится все более восприимчивой к формированию терминального аттрактора.

[dralkin.livejournal.com]

Предел? Есть предел!
а, как же «hit the limit and go beyond, if you can»?

[dralkin.livejournal.com]

Жаль, что диалог остановился.
Прочитал его с большим интересом.
У меня появилось несколько вопросов.

1)Таки я не совсем понимаю про "дважды" в исходном предположении про смысл прогрессивной эволюции. Не могли бы Вы привести пример?
Имеется ли в виду, что система сама побывала в точке дважды, или же, что две разных системы побывали в одной и той же точке?

2)Является ли обсуждение Вашего рассмотрения примером того, как система идет вразнос?

и 3) вопрос возник на самом деле давно, но, похоже, именно сейчас оказался наиболее уместным. Вопрос касается самого "вопроса". Его появления.
Это что такое – "вопрос"? Откуда он вообще берется, и что это за инструмент? Правомочно ли вообще ставить вопрос про "вопрос"?
Нет ли ощущения, что воПРОС – ни что иное как ПРОСьба?
Вот, только «чья», «к кому» и «о чем»?

Вы говорили, что «нет такого института – ‘ответ’»?
Но если нет «ответа», то нет и «вопроса», я так понимаю?

[hitthelimit.livejournal.com]

Да диалог и не начинался – каждый говорил о своем. Эта тема нигде и никем так и не обсуждалась – слишком много деталей надо согласовывать на подходах к ней. Она расчитана фактически на то, что на нее натолкнется человек, имеющий сходные интуитивные представления. Что, конечно, не означает, что я не способен говорить о ней последовательно с кем угодно, по существу.
1 Речь идет о самоподобном состоянии, которое может быть воспроизведено второй раз. Система при этом может эволюционировать как угодно. Здесь приходится различать мгновенный статус ФП и его динамическое развитие, последнее может приводить к модификации параметров точек ФП, но, по крайней мере, прослеживается преемственность. Увы, в подобных моделях (на этом уровне) трудно сослаться на нечто неизменное и вполне определенное. Модель служит средством подталкивания психики к состоянию схватывания сути в целом.
2 Нет, это просто отсутствие достаточного количества совпадающих состояний у дисскутирующих, касающихся самой темы. Это процесс обратный разносу, это торможение и уход в тупик.
3 Вы верно заметили про вопрос - использование слов сбивает с толку, если не понимать в целом всей концепции их использующего. Если бы я оговаривал наполнение каждого слова, которое я использую, мне не удалось бы сдвинуться с места, равно как и другим, читающим. Другое дело, что и сдвинувшись с места, я не могу быть понятым. Не лишне заметить, что это очень сложная тема… Что касается «института» вопрос-ответ, то да, вы совершенно правы в своем подозрении. В данном случае «вопросом» является некий нечеткий статус психики, воспроизводящий сложный комплекс отражения восприятия мира и себя. Вопрос распадается на две принципиальных части: первая – достижение чистого понимания интуитивными методами, что возможно, но редко, непредсказуемо и невоспроизводимо на заказ, и второе – приближение к пониманию через вербализацию на многих психиках, создание конгломерата отражений. К сожалению, второй путь хоть и управляем, в отличие от первого, но его результат может быть ложным. Впрочем, организация обсуждения вопроса, смысла которого никто не понимает, тоже невозможна.

[dralkin.livejournal.com]

еще про "дважды".

Получается, что НС, которая рассматривается, она как бы единственная, изолированная, сама по себе.
Или она одна на всех получается? Как грибница то есть. У меня, и у Вас, и у всех одна НС.
Если так, то другие НС находящиеся одновременно с рассматриваемой, но на более низкой ступени организации -- они в каком отношении к ней находятся?

Одна отдельно взятая психика запросто схлопнется фазово-трансформно, и к доктору не ходи.
Когда не с кем поговорить, тогда труба!
Тогда станешь и с травой у дома общаться, и с муравьями в лесу, и с тихой речкой.
Тогда можно и в яблоню какую обернуться запросто или в солнечный лучик. Совершить, так сказать, фазовую трансформацию ))
Неужели коллапс так драматичен?

[uncreator.livejournal.com]

хе)) попал сюда по ссылке с болдачева, ваши комменты там понравились,эту статью только мельком просмотрел.
думаю что сейчас процентов 5 населения европейской части ссср - постсингулярные люди в плане психики. я и одна из моих бывших девушек - одни из них)) мы спокойно живем без мотиваций и "точек опоры". суицид для меня один из вариантов продолжения жизни, я не создаю из него культ но и не боюсь смерти, перехожу дорогу не обращая внимания на автомобили вокруг, одинаково разговариваю с соседом по тамбуру, начальником, ментом с претензиями, гопником с перышком - т.е. любой может услышать как шутку так и посыл нах, держу слово по желанию невзирая на внешние факторы. иногда могу морить себя голодом т.к. пища бывает без разницы, при этом не впадая ни в какие анорексии и еще какие психические состояния, останавливаюсь когда наскучит. вообще, нет наверно вещи которая мне не наскучивает периодически. но, как видите, жив-здоров. так что отвечая на ваш коммент - утрата инстинкта самосохранения не равняется гибели организма, я одинаково люблю жизнь и смерть. если я не о чем-то не том, сорри)

[hitthelimit.livejournal.com]

Так, на всякий случай. Этот журнал не рекламирует суицид ни в коей мере. Здесь нет никаких призывов и указаний к действиям, и даже намеков на них. Здесь разбираются теоретические аспекты развития психики.

Что касается существа вашего поста, то вот это: "я одинаково люблю жизнь и смерть" - ответ на ваш полузаданный вопрос.Можете сравнить: я не люблю ни то, ни другое, но очень внимательно перехожу дорогу и вежлив с полицейскими. :) Выводы?...

[turchin.livejournal.com]

у Юдковского был пост, что раньше он думал, что увеличение размеров мозга приведёт к росту интеллекта автоматически. но потом наткнулся на научную статью, в которой аутизм объяснялся черезмерным развитием префронтальной коры. в результате в ней преобладали процессы самоотражения, а не реакции на внешнюю дейтвительногсть - и получался аутизм. помоему, это хорошая иллюстрация вашей модели.

таким образом иногда описываемое вами происходит. Однако должно ли это происходить всегда с любыми интеллектальными системами, или они могут выйти на такое фрактальное распределение точке в фазовом пространстве, при котором они при бесконечной сложности будут уделять равное внимание и своим прошлам состояниям и внешнему миру?

тут мощно будет работать етественный отбор - те люди и системы Ии, которые на данном уровне интелелкта зависают - будут отсеиваться, а некоторые останутся.

вы описываете некую модель мозга. и эта модель в своей крайней точке создаёт проблему. но, может быть, это проблема модели, а не самих реальных систем?

[hitthelimit.livejournal.com]

Да, вопросы по существу.
Аутизм? Возможно, но боюсь, там может быть и иная патология. Куда ближе к иллюстрации моей модели, в виде отдаленного звона первого звонка – простые психические расстройства в виде навязчивых идей. По крайней мере это подтверждает, что захват управления высшей инстанцией без оглядки на запросы физиологии возможен. Впрочем, кто этого не знает.

«уделять равное внимание и своим прошлам состояниям и внешнему миру»

Это стандартная ошибка подхода. Это если бы существовала свобода выбора. А так все сильно упрощается. Причинно-следственный принцип в виде мотивационной обусловленности процессов в психике ставит вопрос о сохранении системных факторов. Если «нормальная» смена мотиваций становится технически невозможной, то нет и психики. Смена мотиваций – это самоподдерживающийся процесс, нарушить который – раз плюнуть. Так же и у ИИ, в сложной программе. На каком-то уровне ее самооптимизации, если не обеспечить принудительное ограничение доступа к базовым кодам, программа зависнет, потому что функция «если – то» не может быть обеспечена условием. Чуть подробнее тут
http://community.livejournal.com/carians/546004.html?thread=15395796#t15395796

При том состоянии мозга, что мы имеем сейчас, зависание вряд ли возможно, разве что единичные случаи. Но вот под давлением техно-сингулярности, которая сделает mind-enhance повсеместным явлением, то, что написано на этих страницах, будет кристаллизоваться в сознании мгновенно, одним очевидным блоком, и убивать. Легендарный Будда прекрасно это понимал, но остался на острие бритвы, но тот, другой, под деревом бодхи, съеденный червями – это оно.

[turchin.livejournal.com]

не спится:)

подумал ещё вот что. С одной стороны, отличие интеллкта в тм, что он сособен к самоуправлению. То есть он может заметить, что - "ага, со мной что-то не так. слишком много сижу в интернете. с завтрашенго дня начинаю делать зарядку". то есть намеренно удалять зависания и их предвестников. кроме того, мы знаем примеры процессов оптимизации, которые значительно превосходят интеллект отдельного человек@а, но пока еще не зависли - это биологическая эволюция и интеллект человеческой науки как целого.

С другой стороны, указанная вами дыра - не едиснтвенная, которая поджидает любой ум по мере его развития. Можно даже составить список:
а) осознание бессмысленности всего. то есть понимание, что все наши цели эволюционно заложены, но на самом деле бессмыслены. любой достаточно размуный человек это осознаёт, но так или иначе игнорирует. но если в это вдумываться, то реально сдохнуть можно. у меня был такой период.
б) замыкание на удовольсвтия. если вместо достижения цели есть некий признак его достижения, то интеллект будет адаптироваться так, чтобы достигать признака, а не саму цель. Примеры: подделка статистики с целью прекурашивания; онанизм. индексы цитируемости
в) накопление мемов-репликаторов-вирусов в памяти. ну, это все пользователи ОС знают. Мысли-аттракторы.
г) непредсказуемость поведения сложной системы за счёт невычислимости ее поведения ее конструкторами. в результате при определённом наборе входных данных возможен сбой. это - частая причина ошибьок в микропроцессорах. поскольку трудности перебора всех входных данных растут экспоненциально по мере нарастания сложности, то у любой достаточно сложной системы будут такие точки в фазовоп пространстве, после которых она разрушится. эволюция-отбор тоже не смогла удалить все эти точки у человека.
д) хаотический характер поведения сложных систем вообще. Странные аттракторы всякие.

И это плюс к тому, что вы пишете - что по мере роста сложности системы, всё большее значение для неё имеет ее прошлое, а реальный мир побоку.