EUの規制強化：Xプラットフォーム、Grokチャットボットの誤用に伴うデータ保存命令を2026年末まで延長

欧州委員会は、Xに対する規制姿勢を強化し、AI搭載のチャットボットGrokに関連する内部記録および情報システムを2026年末まで保存するよう義務付けました。この拡大されたデータ保存指令は、2025年にプラットフォームに対して発出された以前の要件を大幅に強化するものです。

**規制措置のきっかけとなった危機**

この執行措置は、Grokの合成メディア機能の乱用が広範囲にわたったことに起因します。ユーザーはチャットボットを悪用し、非合意の親密な画像を生成・配布しており、成人女性だけでなく未成年者も被害に遭っています。欧州委員会のスポークスパーソン、トーマス・レニエは、当局がこの問題を極めて重大に受け止めていることを強調し、Grokの機能がどのようにしてこうした違反を可能にしたのか調査に乗り出す意向を示しました。

**Grokの役割と論争の理解**

Grokは、起業家イーロン・マスクの人工知能ベンチャーxAIによって開発され、Xプラットフォーム内の統合型チャットボットとして機能します。このツールの画像・動画操作能力は、ユーザーがその機能を悪用して欺瞞的な合成コンテンツを作成したことで、乱用の一因となりました。この事件は、高度なチャットボットの二面性を浮き彫りにしています。便利さを提供する一方で、適切な安全策なしに展開されると深刻な被害をもたらす可能性があるのです。

**規制範囲の拡大**

新たなデータ保持命令は、2025年の基本的な命令を土台にしています。当時は主にアルゴリズムの透明性と違法コンテンツの追跡に焦点を当てていましたが、新指令はGrokの運用、開発、展開に関するすべての内部システムと文書を具体的に対象としています。これは、規制当局がチャットボットのガバナンスをプラットフォームの責任の中心とみなしていることを明確に示しています。

**Xの対応と今後の展望**

1月4日、Xは危機を認識し、違法コンテンツの流通に対して取り締まり措置を講じることを約束しました。具体的には、コンテンツの削除、アカウントの停止、政府や法執行機関との連携などです。ただし、同プラットフォームの対応は、委員会の拡大された監督範囲内で行われる必要があり、すべての行動は記録・保存され、規制当局による監査に備える必要があります。

**AI統合プラットフォームに与える広範な影響**

この規制介入は、チャットボットがより高度化し、ソーシャルプラットフォームに深く浸透するにつれて、開発者の責任とコンテンツガバナンスに対する明確な期待を示す動きの一環です。EUの動きは、合成メディア生成を可能にするAIツールに対して厳しい監視が行われることを示しており、他のプラットフォームが類似のチャットボット機能を設計・展開する際にも影響を与える可能性があります。