編集者の概要:デジタル化が進み、データ駆動型の世界において、AIは技術進歩の力を倍増させるものです。 そのため、人工知能の開発の現状を把握することは、私たちの仕事にとって重要です。 この「2023 State of Artificial Intelligence Report」は、研究、産業、政治、セキュリティなどの側面から人工知能の現状をまとめ、今後12か月の人工知能の発展を予測し、人工知能の開発ダイナミクスを理解するのに役立つことを願っています。 この記事は編集からのものです。
これまでの「State of Artificial Intelligence」レポートでは、大規模なラボがAIの安全性を無視している可能性があると警告しています。 2023年は、AIのせいで人類が生存の危機に瀕しているのかという議論が激化し、オープンソースかクローズドソースかをめぐる研究者間の議論が激化し、絶滅リスクが話題になりました。
レポート:研究・産業・政策などの観点から見た2023年のAIの現状
原題:「2023 State of Artificial Intelligence Report」
著者:36Krの編纂チーム 神訳局 BONI
編集者の概要:デジタル化が進み、データ駆動型の世界において、AIは技術進歩の力を倍増させるものです。 そのため、人工知能の開発の現状を把握することは、私たちの仕事にとって重要です。 この「2023 State of Artificial Intelligence Report」は、研究、産業、政治、セキュリティなどの側面から人工知能の現状をまとめ、今後12か月の人工知能の発展を予測し、人工知能の開発ダイナミクスを理解するのに役立つことを願っています。 この記事は編集からのものです。
研究内容
2023年は確かに大規模言語モデル(LLM)の年であり、OpenAIのGPT-4は、従来のAIベンチマークと人間向けに設計された試験の両方で、他のすべてのLLMを打ち負かすことに成功し、世界に衝撃を与えました。
セキュリティと競争への懸念から、AIはAIに対してあまりオープンになっていないことがわかりました。 GPT-4に関しては、OpenAIは技術レポートしか公開しておらず、GoogleはPaLM2についてあまり開示しておらず、AnthropicはClaudeかどうかの技術情報を開示していません... またはクロード2。
しかし、Meta AIやその他の企業は、GPT-3.5の多くの機能に匹敵するオープンソースのLLMを開発・リリースすることで、オープンソースの炎を燃やし続けるためにステップアップしています。
Hugging Faceのリーダーボードを見ると、オープンソースはかつてないほど活発で、ダウンロード数とモデル投稿数は過去最高を記録しています。 注目すべきは、LLaMaモデルが過去30日間でHugging Faceで3200万回以上ダウンロードされたことです。
大規模言語モデルのパフォーマンスを評価するためのさまざまな(主に学術的な)ベンチマークがありますが、これらの異なる評価基準に共通していると思われる最大のもの、そして最大の科学と工学のベンチマークは、「共鳴」です
LLM の刺激的な雰囲気に加えて、Microsoft を含む研究者は、高度に専門化されたデータセットでトレーニングされたモデルが 50 倍の大きさの競合他社に匹敵することを発見し、小さな言語モデルの可能性を模索してきました。
Epoch AIのチームがうまくいけば、この作業はさらに緊急性が高まる可能性があります。 彼らは、今後「2年」で高品質の言語データベースの在庫が不足するリスクがあると予測しており、ラボはトレーニングデータの代替ソースを模索しています。
現状をより高いレベルで見ると、近年は減少していますが、米国は依然としてリードしており、引用数の多い論文の大部分は、依然として少数の米国の機関からのものです。
業界
これらすべての作業は、特にNVIDIAの場合、ハードウェアビジネスに参入する絶好の機会であることを意味します。 GPUの需要により、同社は1兆ドル規模のクラブに押し上げられ、AI研究におけるチップの使用率は「他の選択肢を合わせたもの」の19倍となっています。
NVIDIAは新しいチップを導入し続けていますが、古いGPUは並外れたライフタイムバリューを示しています。 2017年にリリースされたV100は、2022年のAI研究論文で最も人気のあるGPUです。 このCPUは5年で廃止される可能性があり、10年間使用されていることを意味します。
NVIDIA H100 の需要は急速に増加しており、ラボでは大規模なコンピューティング クラスターの構築が急がれていますが、今後さらに増える可能性があります。 しかし、これらの建設プロジェクトには、エンジニアリング上の大きな課題がないわけではないと聞いています。
「チップ戦争」により、業界は調整を余儀なくされ、NVIDIA、Intel、AMDはいずれも、中国の大規模な顧客ベース向けに制裁に準拠した特別なチップを製造しています。
おそらく、史上最も驚くことではないニュースは、Chat-GPTが史上最も急速に成長しているインターネット製品の1つであることです。 これは特に開発者の間で人気があり、開発者がコーディングの問題の解決策を見つけるための新しい場所として Stack Overflow に取って代わりました。
しかし、Sequoia Capitalによると、画像生成からAIコンパニオンまで、あらゆるものでリテンション率にばらつきがあり、ジェネレーティブAI製品の持続力を疑う理由が出てきているという。
コンシューマ向けソフトウェアの分野に加えて、ジェネレーティブAIがフィジカルAIの分野の進歩を加速させる兆しがあります。 Wayve GAIA-1は、優れた汎用性を実証しており、自動運転モデルのトレーニングと検証のための強力なツールとして使用できます。
ジェネレーティブAIに加えて、AIに適したアプリケーションを見つけるのに苦労している業界からも大きな動きが見られます。 従来の製薬会社の多くは、人工知能にすべての賭けをし、ExscientiaやInstaDeepなどの企業と数十億ドル規模の取引を結んでいます。
軍隊が非対称戦争に対処するために軍隊の近代化を急ぐ中、AIファーストの防衛市場は活況を呈しています。 しかし、新しいテクノロジーと既存のプレーヤーの対立により、新規参入者が足場を固めることは困難です。
これらの成功に加えて、VC業界は、アトラスのようなテクノロジーのプライベート市場の一部を支えるセクターであるジェネレーティブAIに焦点を当てています。 ジェネレーティブAIの市場ブームがなければ、AIへの投資は昨年より40%減少していただろう。
トランスフォーマーのニューラルネットワークを最初に紹介した論文の著者は、2023年だけでトランスフォーマーギャングが数十億ドルの資金を確保したことを生きた証拠です。
シリコンバレーにある人工知能研究所であるBaiduのDeepSpeech2チームも同様です。 音声認識のための深層学習に関する彼らの研究は、現在大規模な人工知能を支えている拡張の法則を示しています。 このチームのメンバーのほとんどは、機械学習の大手企業の創業者や上級管理職になりました。
最も注目を浴びたブロックバスター資金調達ラウンドの多くは、従来のVC企業によって主導されていませんでした。 2023年はコーポレートベンチャーキャピタルの年であり、大手ハイテク企業は手持ちの戦争資金を有効活用しています。
政治
当然のことながら、数十億ドルの投資と能力の飛躍的な向上により、AIは政策立案者にとって最重要課題となっています。 その範囲は緩いものから厳しく規制されているものまでさまざまで、世界中でいくつかの規制アプローチがあります。
AIのグローバルガバナンスについては、主にさまざまなグローバル組織から多くの潜在的な提案がなされています。 Matt Clifford氏らが主催するUK AI Security Summitは、これらのアイデアのいくつかを具体化するのに役立つかもしれません。
戦場でAIの力を目の当たりにし続けるにつれて、これらの議論はさらに差し迫ったものになりそうです。 ウクライナでの紛争はAI戦争の実験場となり、比較的即席のパッチワークシステムでさえ、巧みに統合されれば壊滅的な効果をもたらすことができることを示しています。
もう一つの火種となり得るのは、来年の米国大統領選挙だ。 これまでのところ、ディープフェイクやその他のAI生成コンテンツは、過去の偽情報の種類と比較して、比較的限られた役割しか果たしていませんでした。 しかし、低コストで高品質なモデルがそれを変え、先制的な行動を促す可能性があります。
これまでの「State of Artificial Intelligence」レポートでは、大規模なラボがAIの安全性を無視している可能性があると警告しています。 2023年は、AIのせいで人類が生存の危機に瀕しているのかという議論が激化し、オープンソースかクローズドソースかをめぐる研究者間の議論が激化し、絶滅リスクが話題になりました。
...... 言うまでもなく、誰もが同意するわけではありませんが、Yann LeCunとMarc Andreessenが主な懐疑論者です。
政策立案者がAIの潜在的なリスクに警鐘を鳴らすようになったのは当然のことですが、その理解に苦労しています。 英国は、イアン・ホガース氏が率いるフロンティアAI専門タスクフォースの創設を主導し、米国は議会による調査を開始しました。
理論的な論争はまだあるものの、ラボはすでに行動を起こし始めており、Google DeepMindとAnthropicは、開発展開の極端なリスクを軽減することに関して、より詳細にアプローチを詳しく説明した最初の企業の1つです。
遠い未来には触れませんが、Chat-GPTなどの技術を支える人間のフィードバックに基づく強化学習などの技術については、トリッキーな質問が投げかけられています。
予測
いつものように、透明性の精神で、昨年の予想を大事にしています - 私たちは5/9を獲得しました。
✅ LLMトレーニング、ジェネレーティブAI/オーディオ、テクノロジーの巨人は、一般的なAIの研究開発、アライメント投資、トレーニングデータに全面的に投資しています。
❌ マルチモーダル研究、バイオセーフティラボの規制、および半完成のスタートアップ企業にとっての運命。
ジェネレーティブAI/映像制作
人工知能と選挙
自己改善剤
IPOの復活
10億ドル以上の価値があるモデル
競合調査
-グローバルガバナンス
-音楽