Эта статья из Стэнфорда и Гарварда объясняет, почему большинство систем "агентного искусственного интеллекта" вызывают восхищение на презентациях, но полностью разочаровывают при реальном использовании.

Она называется "Адаптация агентного искусственного интеллекта" и является самой важной статьей, которую я прочитал в этом году.
В настоящее время все помешаны на создании автономных агентов. Мы даем им инструменты, память и цель, и ожидаем, что они выполнят наши задачи.
Но при внедрении в реальный мир они начинают иллюзии вызова инструментов. Они не умеют планировать на долгосрочную перспективу. Они выходят из строя.
Вот почему:
Мы пытаемся поместить все обучение в мозг искусственного интеллекта.
Когда разработчики пытаются исправить сломанного агента, они обычно просто настраивают основную модель для получения лучших окончательных ответов.
Исследователи обнаружили в этом смертельную ошибку.
Если просто поощрять ИИ за правильный окончательный ответ, он становится ленивым.
Он буквально учится перестать использовать инструменты. Он пытается угадать ответ вместо выполнения работы. Он игнорирует калькулятор и пытается сделать вычисление в уме.
Чтобы исправить это, исследователи предложили новую структуру из 4 частей, которая показывает, как агенты действительно учатся.
И самое важное заключение полностью меняет текущие представления.
Вместо постоянного переобучения огромного и дорогостоящего мозга агента, более надежные системы делают наоборот.
Они замораживают мозг. И адаптируют инструменты.
Это называется адаптацией инструментов под руководством агента.#GateSquareAprilPostingChallenge $BTC