Пока ничего не понял. Что за обратная связь включается и каким образом ИИ сам себя оценивает? ИИ сам вычисляет целевую функцию? Что за "интегральный критерий типа интерес"? Что они пытались создать? ИИ, действующий в среде в реальном времени, или простой оптимизатор, в который подается задача и выдается оптимальное решение.
В любом случае, то что вы описываете не напоминает мышление животных или человека. ИМХО, целевые критерии, максимума которых следует добиваться у животных прошиты жестко (в генетическом коде) и не подлежат коррекции. Плавающими являются только ассоциации с целевыми ситуациями.
Кроме того, подход американцев, который вы описали внешне напоминает изобретение вечного двигателя. Если бы все было так просто, первая же амеба стала бы океаном Соляриса. Мозг не выглядит как единый однородный каогломерат из нейронов. Напротив, в нем очемь много явно специализированных частей, каждая их которых тонко настроена на выполнение своей функции. Врятли мозг проще, чем весь остальной организм.
Хотя, путь, по которому они пошли может сработать: пишем ИИ на суперкомпьютере, обнаруживаем его нестабильность. Дополняем его механизмом, искусственно стабилизирующим ситуацию, обнаруживаем, что механизм работает не всегда, дополняем механизм и так далее до победного конца. Естесственно, лучше это пробовать на суперкомпьютере, поскольку лучше один раз увидеть, чем сто раз измыслить.
При этом лучше сразу пытаться создать ИИ, который вел бы себя относительно оптимально в реальном времени в постых ситуациях. Например, ползал бы и искал еду чуть лучше, чем в него изначально это заложили.
Реальные организмы в природе организмы никогда не сталкиваются с проблемами типа оптимизации пути и вообще не сталкиваются с проблемами, решение которых требует перебора слишком большого числа вариантов. Вспомните, что детеныши копытных умеют почти все, что умеют взрослые сразу после рождения, без всякого обучения. Т.е. реальное животное попадает в ситуацию, когда у него уже есть эффективно работающий набор программм и остается только понемногу его корректировать. Никое повышение сложности с нуля и до небес не требуется. Оно и невозможно.
Re: самообман
ИИ сам вычисляет целевую функцию? Что за "интегральный критерий типа интерес"?
Что они пытались создать? ИИ, действующий в среде в реальном времени, или простой оптимизатор, в который подается задача и выдается оптимальное решение.
В любом случае, то что вы описываете не напоминает мышление животных или человека.
ИМХО, целевые критерии, максимума которых следует добиваться у животных прошиты жестко (в генетическом коде) и не подлежат коррекции. Плавающими являются только ассоциации с целевыми ситуациями.
Кроме того, подход американцев, который вы описали внешне напоминает изобретение вечного двигателя. Если бы все было так просто, первая же амеба стала бы океаном Соляриса.
Мозг не выглядит как единый однородный каогломерат из нейронов. Напротив, в нем очемь много явно специализированных частей, каждая их которых тонко настроена на выполнение своей функции. Врятли мозг проще, чем весь остальной организм.
Хотя, путь, по которому они пошли может сработать: пишем ИИ на суперкомпьютере, обнаруживаем его нестабильность. Дополняем его механизмом, искусственно стабилизирующим ситуацию, обнаруживаем, что механизм работает не всегда, дополняем механизм и так далее до победного конца.
Естесственно, лучше это пробовать на суперкомпьютере, поскольку лучше один раз увидеть, чем сто раз измыслить.
При этом лучше сразу пытаться создать ИИ, который вел бы себя относительно оптимально в реальном времени в постых ситуациях. Например, ползал бы и искал еду чуть лучше, чем в него изначально это заложили.
Реальные организмы в природе организмы никогда не сталкиваются с проблемами типа оптимизации пути и вообще не сталкиваются с проблемами, решение которых требует перебора слишком большого числа вариантов. Вспомните, что детеныши копытных умеют почти все, что умеют взрослые сразу после рождения, без всякого обучения.
Т.е. реальное животное попадает в ситуацию, когда у него уже есть эффективно работающий набор программм и остается только понемногу его корректировать. Никое повышение сложности с нуля и до небес не требуется. Оно и невозможно.