> Не существует никакого интеллекта, вообще. > Есть способность систем демонстрировать некоторые действия. > Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли. > Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям. Я бы это выразил другими словами. Когда человек задается вопросом есть ли у некого объекта интеллект (сознание и др.), он рассуждает следующим образом: у меня есть интеллект, значит объект обладает интеллектом (сознанием) в той степени, в которой он похож на меня по ряду критериев. Критерии выбираются в зависимости от того, что оценивается - интеллект, сознание или др. При оценке интеллекта центральный критерий - способность предсказывать последующие события на основе наблюдения предыдущих в тех же ситуациях, в которых это могу делать "Я".
На первый взгляд, этот критерий субъективен и не имеет смысла. Но с другой стороны, для нас смысл имеет все, что работает, а такой критерий может работать. Важно только понимать его субъективную природу.
> Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом.
Лично мне весь мой опыт говорит о том, что физическая вселенная - очень тесный мир. В нем нет места для нескольких в корне различных систем, обладающих перечисленными вами атрибутами (самообучение, потребности). Помните старую фантастику, в которой жизнь возникает везде - и в недрах звезд и на основе кремния вместо углерода... Сейчас уже почти очевидно, что это все чушь. Аналогично и с интеллектом. Вселенная, в которой существет материя и детерминированные физические законы - это место, где живет человек, такой, какой он есть и никакой другой. Любая конструкция, которую можно впереть в рамки любой физической вселенной, и которая обладает некоторыми атрибутами человека будет очень похожей на человека. Естесственно, к ИИ не подойдешь, не похлопаешь по плечу типа "хороший парень" и он не будет разделять американские ценности. Но если рассмотреть будущий ИИ с достаточной долей научной трезвости, наверняка он будет восприниматься как существо наделенное сознанием, интеллектом и очень сходное с человеком.
> Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес.
Думаю, что он начнет работать только тогда, когда в нем будут повторяться все основные психические механизмы человека. Соответственно он будет иметь огромную ценность в продвижении нашего понимания того что мы есть.
no subject
> Есть способность систем демонстрировать некоторые действия.
> Собственные состояния систем при этом не должны считаться релевантными. Точнее даже не собственные состояния, и всего лишь их интерполяции, так как сами состояния не экстраполируются в неизменном виде во вне. Все тот же привилегированный доступ, видите ли.
> Поэтому нет никакого смысла говорить о (нашем, или любой другой системы) понимании, а только о способности к неким действиям.
Я бы это выразил другими словами.
Когда человек задается вопросом есть ли у некого объекта интеллект (сознание и др.), он рассуждает следующим образом: у меня есть интеллект, значит объект обладает интеллектом (сознанием) в той степени, в которой он похож на меня по ряду критериев.
Критерии выбираются в зависимости от того, что оценивается - интеллект, сознание или др.
При оценке интеллекта центральный критерий - способность предсказывать последующие события на основе наблюдения предыдущих в тех же ситуациях, в которых это могу делать "Я".
На первый взгляд, этот критерий субъективен и не имеет смысла. Но с другой стороны, для нас смысл имеет все, что работает, а такой критерий может работать. Важно только понимать его субъективную природу.
> Следует четко понимать, что любая система, созданная по второму сценарию, т.е. полностью самообучающаяся система, ориентированная на свои сенсоры, конструкцию и потребности, будет иметь свои собственные состояния, свою когнитивистику, свою эвристику, а в силу несовершенства конструкции — также свои эмоции. Однако конвертация всех этих состояний в человеческие аналоги станет, возможно, непреодолимым вызовом.
Лично мне весь мой опыт говорит о том, что физическая вселенная - очень тесный мир. В нем нет места для нескольких в корне различных систем, обладающих перечисленными вами атрибутами (самообучение, потребности).
Помните старую фантастику, в которой жизнь возникает везде - и в недрах звезд и на основе кремния вместо углерода... Сейчас уже почти очевидно, что это все чушь.
Аналогично и с интеллектом. Вселенная, в которой существет материя и детерминированные физические законы - это место, где живет человек, такой, какой он есть и никакой другой.
Любая конструкция, которую можно впереть в рамки любой физической вселенной, и которая обладает некоторыми атрибутами человека будет очень похожей на человека.
Естесственно, к ИИ не подойдешь, не похлопаешь по плечу типа "хороший парень" и он не будет разделять американские ценности. Но если рассмотреть будущий ИИ с достаточной долей научной трезвости, наверняка он будет восприниматься как существо наделенное сознанием, интеллектом и очень сходное с человеком.
> Создание системы по второму сценарию (полностью автономной) может иметь только академический интерес.
Думаю, что он начнет работать только тогда, когда в нем будут повторяться все основные психические механизмы человека. Соответственно он будет иметь огромную ценность в продвижении нашего понимания того что мы есть.