До 2026 року штучні інтелектуальні агенти з навичками автономного міркування та виконання завдань будуть широко застосовуватися на підприємствах, що викликає занепокоєння щодо їх непередбачуваності та комерційних ризиків. Sam Gloede, керівник напрямку надійного AI в KPMG, підкреслює необхідність потужних контрольних заходів, чітких операційних меж і постійного моніторингу, щоб запобігти тому, щоб агенти не "вийшли з-під контролю". KPMG застосовує унікальні ідентифікатори агентів, системні карти та AI-центр операцій для управління та супроводжує це червоними командними симуляціями. Хоча людський нагляд і вимикачі для відключення залишаються критично важливими, особливо для високоризикових завдань, багатоаспектний підхід, що поєднує технологічні гарантії та управління, розглядається як ключ до збереження контролю. Це підтверджується недавніми інцидентами в Amazon та McKinsey, які пов'язані з помилками AI та прогалинами в безпеці.