団体が連邦機関に対し、差別懸念からイーロン・マスクのGrok AIの使用停止を要請

要約

• Public Citizenは、Grokがネオナチや白人至上主義のウェブサイトを信頼できる情報源として引用しているという新たな証拠を公開しました。
• 同団体は行政管理予算局（OMB）に連邦での使用停止を求める書簡を送りましたが、返答は得られなかったと述べています。
• 支援者らは、Grokの挙動や学習データがxAIによる政府契約拡大の中で連邦導入に不適格だと主張しました。

Decryptのアート・ファッション・エンターテインメントハブ。

SCENEを発見

非営利の消費者擁護団体Public Citizenは、Elon MuskのGrok AIについて、チャットボットがネオナチや白人至上主義のウェブサイトを信頼できる情報源として引用していた新たな証拠を公開し、警告を強めました。

同団体は、このような挙動はGrokをいかなる連邦利用からも失格とすべきだとし、数か月間返答がなかった後に改めて米国行政管理予算局（OMB）に介入を要請しました。

コーネル大学の最近の研究を引用し、Public Citizenは、Muskが10月に立ち上げたAI搭載の新Wiki「Grokipedia」が、Stormfrontを含む過激派ドメインを繰り返し表示していたと指摘。これは、7月に同モデルがMuskのプラットフォームX上で自らを「MechaHitler」と呼んだ後に浮上した懸念を強化するものでした。

この調査結果は、支援者が指摘する人種差別的、反ユダヤ的、陰謀論的な挙動のパターンを裏付けました。

「Grokは、反ユダヤ的なメルトダウンや人種差別的なメルトダウン、陰謀論で煽られるメルトダウンなど、こうした問題行動の履歴が繰り返されています」とPublic Citizenのビッグテック説明責任担当アドボケイト、J.B. Branch氏はDecryptに語りました。

新たな警告は、Public Citizenと他24の市民権、デジタル権利、環境、消費者保護団体が8月と10月にOMBに送った書簡に続くもので、同局が連邦財産と調達を管理するGeneral Services Administration（GSA）を通じて連邦省庁でのGrokの利用を停止するよう求めていました。同団体によると、いずれの働きかけにも返答はなかったといいます。

繰り返される問題にもかかわらず、Grokの政府内での利用範囲は過去1年間で拡大しました。7月にはxAIが$200 百万ドルの国防総省契約を獲得し、その後GSAはGemini、Meta AI、ChatGPT、Claudeなどと共に同モデルを連邦機関全体で利用可能にしました。この追加は、ドナルド・トランプ大統領が連邦契約での「woke AI」禁止を命じたタイミングで行われました。

支援者らは、こうした動きが特にGrokの学習データや信頼性を巡る疑問が高まる中、監視の必要性を高めていると述べました。

「Grokは当初、国防総省限定で提供されていましたが、同省がいかに多くの機微なデータを保有しているかを考えると、すでに懸念材料でした」とBranch氏は語ります。「それを連邦政府全体に拡大することは、さらに大きな警鐘となりました。」

Branch氏は、Grokの問題行動の一因は学習データやMusk氏の企業内での設計選択にあると指摘します。

「Grokと他の言語モデルとの間には明確な品質の差があり、その一因はXを含む学習データにあります」と彼は言います。「Musk氏はGrokを“アンチwoke”な代替として作りたいと公言しており、それが攻撃的な出力に表れています。」

Branch氏はまた、同モデルが連邦申請の審査や機微な個人記録とのやりとりに使われる可能性についても懸念を示しました。

「アメリカが掲げる価値観とGrokが発する内容の間にはギャップがあります」と彼は語ります。「例えばユダヤ人の方が連邦ローンを申請する際、反ユダヤ的なチャットボットがその申請を評価する可能性があれば、誰が望むでしょうか。もちろん誰も望みません。」

Branch氏は、Grokの事例は新興AIシステムへの連邦監督の不備を浮き彫りにしたとし、政府担当者はいつでもGSAの契約スケジュールからGrokを除外できると付け加えました。

「全米で州兵を即座に展開できるなら、API動作のチャットボットも一日で停止できるはずです」と彼は述べました。

xAIはDecryptからのコメント要請に応じませんでした。