検証可能なAI: AI政策における革新と信頼のバランスを取る鍵

2025-03-23 20:00:41

以下はARPA Networkの創設者フェリックス・シューによるゲスト投稿です。

米国政府の人工知能(AI)に対するアプローチは劇的に変化し、規制監視よりもイノベーションの加速を強調しています。特に、ドナルド・トランプ大統領の大統領令、「人工知能におけるアメリカのリーダーシップを妨げる障壁の除去」は、自由な言論を促進し、技術的進歩を進めることに根ざしたAI開発の新しいトーンを設定しました。同様に、米国副大統領JD バンスがグローバルなAI安全合意を支持しないことは、アメリカが競争優位性を損なうことなくイノベーションを優先することを示しています。

しかし、AIシステムが金融市場、重要なインフラ、公共の議論においてますます影響力を持つようになる中で、重要な質問が残ります。イノベーションを抑制することなく、AIモデルによる決定と出力において信頼性と信頼をどのように確保できるのでしょうか？

ここで検証可能なAIが登場し、厳格な規制なしに責任を確保する透明で暗号的に安全なAIアプローチを提供します。

透明性のないAIの課題

AIの急速な進歩は、複雑で自律的な意思決定が可能なインテリジェントなAIエージェントの新しい時代を迎えました。しかし、透明性がなければ、これらのシステムは予測不可能で説明責任を果たさないものになる可能性があります。

例えば、膨大なデータセットを分析するために高度な機械学習モデルに依存する金融AIエージェントは、現在、開示要件が少なくなっています。これはイノベーションを促進しますが、同時に信頼のギャップも生じます：これらのAIエージェントがどのように結論に達するかについての洞察がないため、企業やユーザーはその正確性と信頼性を確認するのに苦労するかもしれません。

AIモデルの欠陥のある意思決定によって引き起こされる市場崩壊は単なる理論上のリスクではなく、検証可能な安全策なしにAIモデルが展開される場合の可能性です。課題はAIの進歩を遅らせることではなく、その出力が証明され、検証され、信頼できるものであることを確保することです。

著名なハーバードの心理学者B.F.スキナーがかつて言ったように、「本当の問題は、機械が考えるかどうかではなく、人間が考えるかどうかである。」AIにおいて重要な問題は、これらのシステムがどれだけ賢いかだけでなく、人間がその知性をどのように検証し、信頼できるかである。

検証可能なAIが信頼のギャップを埋める方法

スタンフォード大学人間中心の人工知能研究所のエグゼクティブディレクターであるラッセル・ウォルドは、アメリカのAIアプローチを要約します:

“安全性は主要な焦点にはならず、代わりに加速された革新と技術が機会であるという信念が中心となるでしょう。”

これがまさに検証可能なAIが重要である理由です。信頼を損なうことなくAIの革新を可能にし、AIの出力が分散型でプライバシーを保護した方法で検証できることを保証します。

検証可能なAIは、ユーザーが独自データを公開することなくAIの意思決定に自信を持てるように、ゼロ知識証明(ZKPs)やゼロ知識機械学習(ZKML)などの暗号技術を活用しています。

ZKPは、AIシステムが出力が正当であることを確認する暗号証明を生成することを可能にし、基礎となるデータやプロセスを明らかにすることなく行います。これにより、最小限の規制監視のある環境でも整合性が保証されます。
ZKMLは、検証可能なAIモデルをオンチェーンにもたらし、数学的に証明可能な信頼できないAI出力を可能にします。これは、特に金融、ヘルスケア、ガバナンスなどの業界におけるAIオラクルやデータ駆動型意思決定にとって重要です。
ZK-SNARKsはAI計算を検証可能な証明に変換し、AIモデルが安全に機能することを保証し、IP権とユーザーのプライバシーを保護します。

本質的に、Verifiable AIは独立した検証レイヤーを提供し、AIシステムが透明性を保ち、責任があり、おそらく正確であることを保証します。