// любой ИИ...будет... (2) самостоятельной системой с набором собственных состояний, для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов.//
и //любая система, созданная по второму сценарию... будет иметь свои... Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом.//
Разве не получается так, что "система конвертации смыслов" или "система конвертация состояний в человеческие аналоги" будут иметь сложность, превышающую сложность систем самих разработчиков и ИИ? Если экстремум есть, то он может быть достигнут еще до того, как заработает агрегат. Разве не так?
И еще. Мне кажется, что заявляя о невозможности создания ИИ2, Вы тем самым как бы модифицируете задачу на его разработку. Это я не в защиту разработки ИИ говорю, но делюсь соображениями от прочтения. Модифицированная задача для ИИ2 (а то и для ИИ1) может быть следующей: экспериментально проверить гипотезу о пределе сложности системы, а также выяснить условия прохождения точки экстремума.
no subject
// любой ИИ...будет... (2) самостоятельной системой с набором собственных состояний,
для экстраполяции которых потребуется нешуточной сложности система конвертации смыслов.//
и //любая система, созданная по второму сценарию... будет иметь свои...
Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом.//
Разве не получается так, что "система конвертации смыслов" или "система конвертация состояний в человеческие аналоги" будут иметь сложность, превышающую сложность систем самих разработчиков и ИИ? Если экстремум есть, то он может быть достигнут еще до того, как заработает агрегат. Разве не так?
И еще.
Мне кажется, что заявляя о невозможности создания ИИ2, Вы тем самым как бы модифицируете задачу на его разработку. Это я не в защиту разработки ИИ говорю, но делюсь соображениями от прочтения. Модифицированная задача для ИИ2 (а то и для ИИ1) может быть следующей: экспериментально проверить гипотезу о пределе сложности системы, а также выяснить условия прохождения точки экстремума.