OpenAIの「クーデター」が始まり、終わった

出典:「未完の研究」公開アカウント

金曜日の夜まで、OpenAIの共同創業者、会長兼社長であるグレッグ・ブロックマンは、5回の雷雨の真っ只中にいました。 過去 24 時間に起こったことを振り返る必要があります。

「クーデター」が起きる

先週のサンフランシスコとベイエリアは、APEC首脳会議、特に二大国の首脳会談の活気ある雰囲気に満ちていた。

OpenAIの共同創業者兼CEOであるサム・アルトマン氏は、木曜日に開催されたAPECビジネスサミットに登場し、夕方にはバーニングマンのイベントに出席し、AIとアートについて語りました。

彼は、もう一人の共同創業者であるチーフサイエンティストのIlya Sutskeverから、金曜日の正午に話そうとしているテキストメッセージを受け取りました。

金曜日の正午、アルトマンはスツコヴォから送られてきたGoogle Meetのリンクを開き、ブロックマンの他に3人の独立取締役がいることを発見した。 スツコヴォはアルトマンに、自分は解雇されたと告げ、そのニュースはまもなく発表されるだろうと語った。

公式声明によると、アルトマン氏は取締役会に対する誠実さの欠如を理由に、CEO兼取締役の地位から解任された。 アルトマン氏は1時間後にOpenAIからの退社を発表し、次のステップを後日発表すると述べた。

12時19分、ブロックマンはスツコヴォから電話を頼むテキストメッセージを受け取った。 その4分後、Google Meetのリンクが届き、それをクリックすると、すぐに取締役会から解任されたが、会社にとって重要な人物であるため、社長としての地位は留任したと告げられた。 また、公式サイトで発表されていたウルトラマンが解雇されたことも伝えられた。

公式声明によると、ブロックマン氏は昨年5月に同社のCTOに昇進した暫定CEOのミラ・ムラティ氏の直属となる。 しかし、ブロックマンはこのニュースを聞くと、すぐに辞任を表明した。

この衝撃的なニュースは、ミラを除く会社全体に衝撃を与えました。 彼女は木曜日の夜に、ウルトラマンの後任として暫定CEOに就任することをすでに知っていました。 OpenAIは内部のフライパンのようなもので、ミラはマイクロソフトとの協力関係が続くことを会社全体に安心させる必要があります。 同氏は、マイクロソフトのCEOであるナデラ氏とCTOのケビン・スコット氏が、OpenAIに対する「極端な信頼」を今も維持しているという声明を伝えた。

その夜、同社のリサーチディレクターであるJakub Pachocki氏、AIの潜在的なリスク評価を担当するチームリーダーのAleksander Madry氏、そして7年間働いている研究者のSzymon Sidor氏の3人の上級職員が辞任しました。 OpenAIも今週末に多数の退職者が出ると予想されています。

本格的に動き出しているOpenAIは、8年前の創業以来最大の危機に陥っています。

左からミラ、ウルトラマン、ブロックマン、スツコボ

セキュリティと収益性の対立

このOpenAI内の「クーデター」、Microsoftはニュースが発表される数分前まで、実際には事前に何も知りませんでした。 ご想像のとおり、他のすべての投資家も暗闇の中にいます。

これは、OpenAIの非営利と営利の2層アーキテクチャの間の潜在的な矛盾を露呈しています。 最も重要な投資家は、会社のガバナンスにおいて役割を果たすことができません。 しかし、既存の非営利の理事会は株式を保有しておらず、6人の理事は1人1票制を採用しているため、不安定なリスクが隠れています。

OpenAIの開発者会議が開催されたばかりで、矛盾の発生に拍車がかかりました。 OpenAI内の「非営利」と「営利者」の関係は、最近緊張しています。 同社のR&Dチームを率いるSutskovo氏は、セキュリティを重視し、OpenAIの基本的価値を強調する非営利団体を代表し、Altman氏の営利団体は、開発の加速、開発者の日にカスタムGPTストアを立ち上げ、開発者APIアシスタントを提供し、開発者と収益を共有する商業的な収益化モデルを立ち上げることを強調している。

しかし、ユーザーの急増はすぐにOpenAIの能力を上回り、ウルトラマンはChatGPT Plusの新規ユーザー登録の停止を発表しなければなりませんでした。 これにより、スツコヴォの安全に対する懸念はさらに高まった。

実際、アルトマン氏とブロックマン氏、スツコヴォ氏とヘレン・トナー氏を擁する取締役会では、開発のペースについて意見の相違が大きくなり、両者は分裂していった。

取締役会の他のメンバーも、いくつかの主要な戦略的問題についてアルトマンと意見が合わなかった。 例えば、アルトマンは、NVIDIAに対抗するチップを開発するために、中東の政府系ファンドから数百億ドルを調達したいと考えています。 また、ソフトバンクの10億ドルの投資を利用して、元アップルのデザイナーであるジョニー・アイブと手を組み、AIネイティブのハードウェア会社を作りたいと考えていた孫正義氏にもアプローチしました。

事情に詳しい関係者によると、サッツクワー夫妻は、アルトマン氏がOpenAIの評判を利用して資金を調達しようとすることに不満を抱いており、新事業が適切なガバナンスモデルを採用しないのではないかと懸念しているという。

木曜日の午前10時頃、Sutskovoは他の3人の取締役に近づき、2人の技術者にシステムが直面している深刻なセキュリティと安定性のリスクを取締役に説明するように依頼し、取締役会の3分の2を代表する会議は、すぐにAltmanを解雇する決定を下したと伝えられています。

ウルトラマンの支持者たちはこれを「クーデター」と呼んだ。

役員「未経験」

取締役会は3分の2の賛成票を投じ、スツコヴォ氏と3人の独立取締役が合意した後、アルトマン氏の解雇が決定された。 しかし、取締役会は開催されず、議長であるブロックマンはそのような取締役会について知らされていなかった。 同社の最も重要な2人の創業者であるCEOと会長は、Google Meetの会議中に会社から追い出されました。

「もし私がそれを手放せば、OpenAIの取締役会は私の全株式の価値を狙って私を追いかけることになるだろう。 "

OpenAIはおそらく今日最も重要な民間企業であり、そのような決定を下した取締役会メンバーを見てみましょう。

独立取締役 Adam D'Angelo、Quoraの創設者兼CEO。 2018年4月に取締役に就任。 彼は、OpenAIは非営利に固執し、収益性の上限をコントロールして、シリコンバレーで別のテクノロジーの巨人にならないようにすべきだと考えています。

独立取締役のターシャ・マッコーリー氏は、今年からランド研究所の非常勤上級管理職として任期をスタートさせたばかりです。 彼女は以前、有名なユダヤ人俳優で起業家のジョセフ・ゴーデン・レヴィットと結婚した2つのスタートアップを成功させ、失敗していました。 彼女は効果的な利他主義運動に積極的に参加しています。

2021年9月に取締役に就任した社外取締役のヘレン・トナーは、ジョージタウン大学セキュリティ・新興技術センター(CSET)の戦略的および基礎研究助成金のディレクターを務めています。 OpenAIに寄付する団体「Open Philanthropy」の政策研究員を経て、米中AIや地政学政策研究で重要な役割を担ったシンクタンク「CSET」に入社する前は、北京に住み、中国のAIイノベーションエコシステムを研究していた。

ヘレンとターシャは、一般的なAIシステムがセキュリティにもたらす脅威に焦点を当てた英国の人工知能ガバナンスセンター(GovAI)にも参加しています。

Sutskovoは、同社の唯一の共同設立者となりました。 ロシアで生まれ、イスラエルからカナダに移住した彼は、ディープラーニングの父であるジェフリー・ヒントンの博士課程の学生であり、ディープマインド、グーグルAI、OpenAIを経て、過去10年間、強化学習とディープラーニングの最前線に立ち、人工知能をまったく新しい分野に押し上げてきました。

彼は、超人工知能を構築する過程で、人間とのスーパーアライメントの確立を提唱しました。 彼は、OpenAIのコンピューティングパワーの20%を使用して、AIが人間よりも賢くなる前に、組み込みの監視メカニズムを確立するためにチームを率いています。 彼は最近、ソーシャルメディアで、「知性の価値を人類の他のすべての資質よりも優先するなら、恐ろしい結果に苦しむだろう」と警告した。 "

取締役会では、Altman氏とSutskovo氏は、OpenAIがセキュリティと収益化のバランスをどのように取るべきかをめぐって激しい対立を繰り広げていた。 アルトマン氏は、OpenAIの事業範囲を拡大しようと、商用化を推進し、次の資金調達ラウンドを求めているが、スツコボ氏は、人類にとって安全で有益な一般的な人工知能の研究を主張して、利益を上げることを急ぐことは不可能だと考えている。

他の2人の取締役を同時に追い出したのは、この4人のOpenAI取締役であり、彼らは高い評価を受けた共同創業者であり、シリコンバレーの多くの起業家や投資機関から批判されました。

彼らはまず、このような重要な会社の取締役会のメンバーを務めた経験が不足していることに疑問を呈することから始めました。 マスク氏、LinkedIn創業者のホフマン氏、ハードテック投資家のヴィノッド・コスラ氏など、OpenAIの初期の取締役会メンバーと比べると、現在の取締役会は弱く、シリコンバレーのメディアも「効果的な利他主義」を持っていると評している。

第二に、このような大きなイベントのために、OpenAIの元取締役と最も重要な投資家は闇に葬られました。 特に、MicrosoftはOpenAIに数百億ドルを投資しましたが、これはニュースが発表される数分前にしか知られていませんでした。 言うまでもなく、シリコンバレーおよび世界中のトップ投資機関のほとんどすべてを含む他の投資家。

MicrosoftのCEOであるNadella氏は、すぐに自身のブログで「MicrosoftはOpenAIと長期契約を結んでおり、あらゆるもの(技術)を使うことができ、AI戦略を進めるためにMiraと引き続き協力していく」と声明を出しました。

ガバナンス構造に内在する矛盾

理由が何であれ、アルトマンとブロックマンはOpenAIの最も重要な創設者であり、彼らが設計したガバナンス構造の犠牲になっています。

OpenAIは、2015年に非営利団体として設立されました。 その目標は、人間のレベルを満たし、それを超え、オープンで、人類に利益をもたらす一般的なAIシステムを構築することです。

その後、マスク氏らが約束した10億ドルの資金にもかかわらず、1億ドル強しか用意されておらず、高度なコンピューティングパワーと一流の人材のコストが莫大で、同社の研究と運営が持続不可能であったため、非営利のOpenAIが完全に支配する営利子会社であるOpenAI Global LLCを設立することになりました。

OpenAI Globalは外部から資金を調達できますが、投資家の利益分配の上限を設定します。 メディアの開示によると、OpenAIの利益分配は4つの段階に分けることができます:利益が発生した後、マスク氏などの最初の投資家は撤退し、マイクロソフトが130億ドルの投資を回収するまでその後の利益の75%をマイクロソフトに配分し、利益が920億ドルに達した後、マイクロソフトの株式保有率は49%に低下します 残りの利益は他のベンチャーキャピタリストとOpenAIの従業員の間で分配され、利益が1500億ドルに達すると、Microsoftと他のベンチャーキャピタリストの株式はOpenAIの非営利ファンドに無料で譲渡されます。

その中でも最も重要な投資家はもちろんMicrosoftで、2019年、2021年、2023年の3回OpenAIに投資し、累計投資額は数百億ドルに上ります。 しかし、究極的には、MicrosoftはOpenAIの株式を所有しておらず、MicrosoftがOpenAIのすべてのテクノロジーに独占的にアクセスし、OpenAIがMicrosoftのAzureクラウドを使用してベースモデルをトレーニングし、APIを介して提供されるサービスはすべてMicrosoftのクラウドを使用しているなど、商業パートナーのようなものです。

Microsoftの資金調達、クラウドサービス、アプリケーションにおけるMicrosoftとOpenAIの商業的協力はすべて、OpenAIが最大8年間にわたって大規模言語モデルの研究に集中し、最終的にブレークスルーを達成する上で重要な役割を果たしてきました。

しかし、OpenAIとMicrosoftのパートナーシップは、独立した非営利の人工知能研究機関からテクノロジー大手の戦略的駒に変え、基盤となるモデルのオープンソース化を約束する、当初の意図からの逸脱として多くの人から批判されていますが、GPT-3以降、ますます閉鎖的になっています。 OpenAIの共同創業者への大口献金者として、マスク氏は厳しく批判されている。 OpenAIのコア従業員も、OpenAIの主な競争相手であるAnthropicなどの新しい会社を立ち上げるために退職しています。

1年前に発売されたOpenAIのChatGPTは、一般的な人工知能の窓を突き破って世界を驚かせましたが、それがもたらす可能性のあるリスクは、大きな論争を巻き起こし、国家および国境を越えたガバナンスシステムの研究と策定を加速させました。

OpenAIのアーキテクチャによると、6人の取締役は「汎用人工知能(AGI)に到達した時期を判断する」ことができるという。

汎用人工知能については多くの論争がありますが、OpenAIは、汎用人工知能とは、最も経済的に価値のある仕事で人間よりも優れた高度に自律的なシステムを指すという定義を考案しました。 アルトマンらはかつて、10年以内に人類は一般的な人工知能を実現すると信じていた。

そして、この取締役会がOpenAIが汎用人工知能を実現したと判断すれば、その独占的使用と商業機関との協力を撤回し、人類全体で利用する。 その中で、Microsoftに関する条項には、「このようなシステムは、一般的なAI以前の技術にのみ適用されるMicrosoftとの知的財産ライセンスおよびその他の商業条件には含まれていません」と記載されています。 "

設計アーキテクチャの観点からは、非営利のOpenAI理事会が最高の力を持っています。

OpenAIはまだ赤字ですが、その収益は急速に成長しており、年間収益は13億ドル、来年には数十億ドルになる可能性があります。 今年初めの資金調達ラウンドで、OpenAIの評価額は290億ドルでした。

現在、OpenAIは評価額860億ドルで新たな資金調達ラウンドを実施しており、アライメントトレーニングの重要性が増すGPT-5のトレーニングのための資金を準備しています。

スタートアップは創業者を見捨てる、シリコンバレーで繰り返される話です。 アップルは1985年にスティーブ・ジョブズを解雇し、ツイッターは2008年に共同創業者のジャック・ドーシーを解雇した。 やがて、彼らは皆、会社を栄光に導くために戻ってきました。

しかし、アルトマン氏の退任は、彼が代表する業界に大きな影響を与えるかもしれない。 ジェネレーティブAIはこれに不満を抱くのだろうか? 必ずしもそうではありません。

ジェネレーティブAIの影響は、より大規模で、より高度で、より安全なモデルの開発にとどまりません。 それが引き起こした革命は、まだ始まったばかりです。

おそらく、OpenAIにおけるアルトマン氏とブロックマン氏の使命は達成されたのだろう。 ジェネレーティブAIは、ラボから幅広い産業へと移行しています。 OpenAIの従業員を含む優秀な人材は依然として存在し、シリコンバレーから世界への数十億ドル、さらには数百億ドルの投資が依然として存在するでしょう。 ジェネレーティブAIへの扉が開かれつつある。

OpenAIは、その初心に固執し、人類にとって安全な汎用人工知能を研究します。 ウルトラマンがもたらす商業的な想像力はもはやないかもしれませんが、それでも研究を支えるために多くの投資が必要です。 結局のところ、OpenAIの価値は、別のテックジャイアントになることではなく、テックジャイアントと肩を並べる社会的インパクトのある企業になり、無数の研究者、起業家、開発者、ユーザーに生成AIの可能性を開くことなのかもしれません。 OpenAIのユニークなガバナンス構造がさらに進むのを見るのは素晴らしいことです。

「私たちを未来に近づけてくれてありがとう。 ブロックマンはソーシャルメディアでそのような返事を受け取りました。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
0/400
コメントなし
いつでもどこでも暗号資産取引
qrCode
スキャンしてGateアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)