Все правильно. Обучающий модуль, который знает что такое хорошо и что такое плохо - это черный ящик. Об устройстве его нету даже толковых гипотез. Примеры, которые вы привели - это неудачные попытки создать эффективный обучающий модуль. Математики этого сделать не могут, а природа сделала.
Можно предпожить, что обучающий модуль это полный аналог извествных нам модулей, но толко более сложный. Тогда удаляя мотивацию за мотивацией из модуля мы прийдем с одной стороны к повышению уровня организации сети и более точному отражению реальности сетью, но с другой стороны к прекращению обучения нейронной сети и повисанию мозга. Это и будет психогенная сингулярность. Пример. Мне ничего не хочется, я понял запрограммированность своих желаний и потерял интерес к их удовлетворению. Если бы нас создали инопланетяне для решения определенных задач, то так бы мы и кончили.
Или можно предположить, что в работе этого модуля заложены некие глобальные принципы, нам пока не извествные, которые позволяют восстанавливать гомеостаз за счет генерации новых более общих мотиваций взамен удаленных более конкретных. Пример. Я понял запрограммированность своих желаний и потерял интерес к их удовлетворению, но у меня родились новые желания более высокого уровня. Например, желание повышать точность отражения мира (не физического мира, а вообще всего) в моей психике. А потом еще что-нибудь.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
timeasmymeasure
no subject
Date: 2009-06-09 11:12 am (UTC)Обучающий модуль, который знает что такое хорошо и что такое плохо - это черный ящик.
Об устройстве его нету даже толковых гипотез. Примеры, которые вы привели - это неудачные попытки создать эффективный обучающий модуль. Математики этого сделать не могут, а природа сделала.
Можно предпожить, что обучающий модуль это полный аналог извествных нам модулей, но толко более сложный. Тогда удаляя мотивацию за мотивацией из модуля мы прийдем с одной стороны к повышению уровня организации сети и более точному отражению реальности сетью, но с другой стороны к прекращению обучения нейронной сети и повисанию мозга. Это и будет психогенная сингулярность.
Пример. Мне ничего не хочется, я понял запрограммированность своих желаний и потерял интерес к их удовлетворению. Если бы нас создали инопланетяне для решения определенных задач, то так бы мы и кончили.
Или можно предположить, что в работе этого модуля заложены некие глобальные принципы, нам пока не извествные, которые позволяют восстанавливать гомеостаз за счет генерации новых более общих мотиваций взамен удаленных более конкретных.
Пример. Я понял запрограммированность своих желаний и потерял интерес к их удовлетворению, но у меня родились новые желания более высокого уровня. Например, желание повышать точность отражения мира (не физического мира, а вообще всего) в моей психике. А потом еще что-нибудь.