Google предлагает методологию постоянной оценки инженерных решений для решения задач оценки производственной среды AI-агентов

Новости ME: сообщение, 4 апреля (UTC+8). Недавно GoogleCloudTech опубликовал пост, в котором указал, что в производственной среде полагаться на ручные чаты и субъективные впечатления (то есть «проверку атмосферы») для оценки AI-агентов ненадёжно и может привести к катастрофе. В статье говорится, что из‑за вероятностной природы генеративного ИИ даже небольшие изменения в подсказках или весах модели способны вызвать существенное ухудшение производительности. Для решения этой проблемы в материале предлагается инженерный подход к применению непрерывной оценки (CE). Этот подход различает два режима инженерии для ИИ: исследовательский режим (лаборатория) и оборонительный режим (цех). Исследовательский режим делает упор на поиск потенциала модели с помощью небольшого числа примеров и «проверок атмосферы»; оборонительный режим же сосредоточен на стабильности — на основе оценки по датасетам, строгого контроля (гейтирования) и автоматизированных метрик, чтобы система соответствовала целям уровня сервиса (SLO). Статья предупреждает, что многие команды надолго застревают в исследовательском режиме. В материале также приводится пример распределённой многоагентной системы (система создателей курсов), построенной на базе Cloud Run и протокола Agent2Agent, чтобы показать практики оборонительного режима для надёжного, масштабируемого AI‑развёртывания на уровне производства за счёт принципа разделения ответственности и специализированных агентов (например, исследователь, судья, конструктор контента, координатор). (Источник: InFoQ)