Генеральный директор Anthropic: ИИ-модели должны быть обязаны проходить аудит, правительства могут блокировать рискованные развертывания

Генеральный директор Anthropic Дарио Амодей 11 июня опубликовал программную статью《Policy on the AI Exponential》, впервые в качестве высшего руководителя компании публично призвав к вмешательству государства и установлению норм для передовых моделей ИИ. Амодей заявил, что Claude Mythos Preview уже способен выявлять уязвимости высокой степени критичности, и использовал это как основание для законодательства.

Три ключевые политические позиции: поддающиеся проверке количественные критерии и правовая рамка

Позиция первая: обязательное тестирование третьими сторонами

Количественные пороги (срабатывает любой из трех): вычислительные мощности для обучения превышают 10^25 FLOPs, либо годовая выручка от ИИ превышает 500 млн долларов, либо расходы на исследования и разработки ИИ превышают 1 млрд долларов. Для компаний, чьи модели соответствуют порогам, модели должны до выхода на рынок пройти независимый аудит; тестирование сфокусировано на четырех областях рисков: кибербезопасность, биологическое оружие, неконтролируемый сбой AI-систем, и автоматизированные исследования и разработки, которые могут ускорять указанные выше риски. В оригинальном тексте Амодей подтверждает, что в рамках данной системы правительство получает законные полномочия блокировать, задерживать или препятствовать развертыванию моделей.

Позиция вторая: ИИ как критически важная инфраструктура кибербезопасности

Требуется, чтобы передовые разработчики защищали «веса модели» от атак со стороны внешних злоумышленников или кражи со стороны внутренних сотрудников, а также чтобы были созданы законодательно установленные каналы для уведомления об «атаках на выпаривание модели» (model distillation attacks). Амодей приводит в качестве технического обоснования утверждение, что Claude Mythos Preview способен активно обнаруживать основные уязвимости высокой степени критичности в наиболее распространенных операционных системах.

Позиция третья: прямое признание структурной замены труда

В рамке прямо указано, что если ИИ достигнет прогнозируемого уровня возможностей, он будет «полной заменой рабочей силы», а не инструментом для поддержки производительности. В рамке рассматриваются сценарии с уровнем безработицы 5%, 10% и даже более крайние ситуации, и предлагаются механизмы реагирования, включая страхование зарплат, универсальный базовый доход (UBI) и модель суверенного фонда благосостояния.

Подтвержденные 350 млн долларов вложений Anthropic в политику

Финансовые обязательства, объявленные Anthropic в тот же день:

200 млн долларов: учреждение «Economic Future Research Fund», предназначенного для пилотирования общественной политики

150 млн долларов: проведение общенациональной программы грантов

В конце длинного текста Амодей пишет: «Ключевая задача — не в том, чтобы стимулировать рост, а в том, чтобы найти способ, как каждый сможет разделить выгоды». Он в тексте подтверждает, что эта рамка «является отправной точкой, а не конечной целью».

Сопоставление с подтвержденными позициями администрации Трампа

Подтвержденная позиция администрации Трампа: пусть ИИ-сектор «дикий рост», чтобы в позитивной конкуренции обыграть Китай, и активно устранить барьеры местного регулирования в каждом из штатов.

Подтвержденная позиция Амодея: в конце длинного текста искать формулировки с кросс-партийной поддержкой: «Эти политические идеи имеют интуитивную привлекательность для обеих партий на политическом спектре; чем раньше мы начнем действовать, тем раньше каждый сможет разделить преимущества ИИ». В длинном тексте Амодей подтверждает, что ранее Anthropic утверждала: «требования к прозрачности достаточно», и что данное политическое предложение представляет собой официальное обновление позиции.

Частые вопросы

Какой именно конкретный количественный порог для обязательного тестирования предложила Anthropic?

Длинный текст《Policy on the AI Exponential》подтверждает три порога срабатывания: при выполнении любого из них до выхода на рынок требуется проведение обязательного независимого аудита. Порогами являются: вычислительные мощности для обучения более 10^25 FLOPs, годовая выручка от ИИ более 500 млн долларов, либо расходы на исследования и разработки ИИ более 1 млрд долларов. Тестирование фокусируется на четырех областях рисков: кибербезопасности, биологическом оружии, неконтролируемом сбое AI-систем и автоматизированных исследованиях и разработках.

Почему Anthropic выбрала день выхода на рынок сильнейшей модели, чтобы одновременно призвать к законодательному регулированию?

Логика подтверждения Амодея такова: Claude Mythos Preview уже может находить уязвимости высокой степени критичности в основных операционных системах, что доказывает, что профиль рисков ИИ уже «достаточно ясен для точного регулирования», и прежний довод о том, что законодательство «недостаточно ясно», больше не считается обоснованным.

Входит ли это политическое предложение в настоящее время в американскую законодательную процедуру?

По состоянию на 11 июня 2026 года《Policy on the AI Exponential》— это документ с политическим предложением, а не какой-либо акт, уже проходящий формальную законодательную процедуру в Конгрессе США. В тексте Амодей подтверждает, что рамка «является отправной точкой, а не конечной целью», и не публикует никаких законопроектов или конкретного графика продвижения.