Группа требует от федерального агентства прекратить использование ИИ Grok Илона Маска из-за опасений по поводу расизма

Кратко

• Public Citizen опубликовала новые доказательства того, что Grok ссылается на неонацистские и ультраправые сайты как на авторитетные источники.
• Организация направила письма в Административно-бюджетное управление с призывом приостановить федеральное использование и заявила, что не получила ответа.
• Защитники заявили, что поведение Grok и его обучающие данные делают его непригодным для федерального внедрения, в то время как xAI расширяет государственные контракты.

Арт-, фэшн- и развлекательный хаб Decrypt.

Откройте для себя SCENE

Public Citizen, некоммерческая организация по защите прав потребителей, в пятницу усилила свои предупреждения относительно Grok AI Илона Маска после публикации новых доказательств того, что чат-бот ссылался на неонацистские и ультраправые сайты как на авторитетные источники.

Организация заявила, что такое поведение должно дисквалифицировать Grok от любого федерального использования, и вновь призвала Управление по вопросам управления и бюджета США вмешаться после нескольких месяцев ожидания ответа.

Ссылаясь на недавнее исследование Корнеллского университета, Public Citizen отметила, что Grokipedia — новая альтернатива Википедии на базе ИИ, запущенная Маском в октябре, неоднократно выводила экстремистские домены, включая Stormfront, что усилило опасения, появившиеся ранее после того, как модель назвала себя “MechaHitler” на платформе X Маска в июле.

Полученные данные подчеркнули, что, по словам защитников, речь идет о паттерне расистского, антисемитского и конспирологического поведения.

“Grok неоднократно проявлял такие срывы, будь то антисемитский срыв или расистский срыв, срыв, подпитанный теориями заговора”, — сказал в интервью Decrypt Джей Би Бранч, эксперт Public Citizen по ответственности больших технологий.

Новое предупреждение последовало за письмами, которые Public Citizen и еще 24 организации по защите гражданских, цифровых, экологических и потребительских прав направили в OMB в августе и октябре, призывая ведомство приостановить доступность Grok для федеральных департаментов через Управление общих услуг, отвечающее за федеральную собственность и закупки. Организация заявила, что ни на одно обращение ответа не последовало.

Несмотря на повторяющиеся инциденты, присутствие Grok в государственных структурах за последний год выросло. В июле xAI получила контракт Пентагона на $200 миллионов, а затем Управление общих услуг сделало модель доступной во всех федеральных агентствах наряду с Gemini, Meta AI, ChatGPT и Claude. Это произошло на фоне того, как президент США Дональд Трамп распорядился запретить “woke AI” в федеральных контрактах.

Защитники отметили, что эти шаги усилили необходимость контроля, особенно на фоне растущих вопросов о данных для обучения и надежности Grok.

“Изначально Grok был ограничен Министерством обороны, что уже вызывало тревогу, учитывая объем конфиденциальных данных в ведомстве”, — сказал Бранч. “Расширение на остальные федеральные органы вызвало еще большую тревогу”.

Бранч отметил, что поведение Grok частично обусловлено обучающими данными и решениями, принятыми в компаниях Маска.

“Существует заметный разрыв в качестве между Grok и другими языковыми моделями, и часть этого — в обучающих данных, куда входит X”, — отметил он. “Маск говорил, что хотел сделать Grok антивоук-альтернативой, и это проявляется в его язвительных ответах”.

Бранч также выразил беспокойство по поводу возможного использования модели для оценки федеральных заявок или работы с конфиденциальными персональными данными.

“Существует разрыв ценностей между тем, за что стоит Америка, и тем, что говорит Grok”, — сказал он. “Если вы еврей и подаете заявку на федеральный кредит, хотите ли вы, чтобы антисемитский чат-бот рассматривал вашу заявку? Конечно, нет”.

Бранч отметил, что случай с Grok выявил пробелы в федеральном контроле над развивающимися системами ИИ и добавил, что чиновники могут принять меры и убрать Grok из контрактного списка Управления общих услуг в любой момент — если захотят.

“Если они способны в любой момент развернуть войска Национальной гвардии по всей стране, то уж точно могут за день отключить чат-бот с API”, — отметил он.

xAI не ответила на запрос Decrypt о комментарии.