アルトマンは「ジョブズ」ではなく、イリヤです!

ソース: Data Ape

画像ソース: Unbounded AIによって生成

OpenAIの2日間の宮廷闘争では、2人の重要人物がいて、1人は元CEOのアルトマン氏、もう1人はチーフサイエンティストのイリヤ氏です。

犬の血のプロット、逆転と逆転

これまでに判明していることに基づくと、一般的な状況は次のとおりです。

ラウンド1:

イリヤが最初にストライキを行い、取締役会はアルトマンを解雇し、その後、OpenAIのパトロン(特にマイクロソフト)と一部の従業員が辞めました。

プロットの逆転:

多くの関係者からの圧力により、アルトマン氏がOpenAIのリーダーシップに戻り、取締役会を改造する可能性があるという噂が絶えませんが、その中でも最も重要なのは、イリヤ氏が辞任する可能性があることです。

逆と逆:

しかし、たった今、このプロットは逆転し、再び逆転しています。

外国メディアのThe Informationによると、イリヤ・サツケバーは日曜日の夜(北京時間今日の正午)にサンフランシスコの従業員に、サム・アルトマンがCEOに再任されないと語った。 また、新しい暫定CEOはミラ・ムラティ氏ではなく、エメット・シェアー氏(AmazonのゲームストリーミングプラットフォームTwitchの共同創業者)です。

そして、イリヤは、彼と他の3人の取締役は、アルトマンを解任するという決定を支持し、それが会社の使命を守るための「唯一の方法」であると確信していると主張した。 同氏は、アルトマン氏の行動と取締役会のやり取りが、同社のAI開発を監督する能力を損なうと述べた。

すべてはOpenAI憲章から始まる

イリヤは、アルトマンを解任したのは、会社の使命を守るためだと考えている。 では、彼が守る「使命」とは何でしょうか?

アルトマンにせよイリヤにせよ、今回の彼らの対立は、金はおろか、権力のせいでもなく、むしろ「やり方の違い」によるものだと言わざるを得ない。 OpenAIがAGIをどのように追求すべきかについて、彼らは異なる理解を持っています。

それらの間の矛盾を理解するには、Ilya、Altman、OpenAIを知る必要があります。

まず、OpenAIとは何か、その設立の目的は何なのかを理解する必要があります。

これを理解するには、OpenAI 憲章が最適な資料です。 この憲章には、この組織が設立された理由を明確にするいくつかのキーワードがあります。

OpenAI憲章では、「私たちの第一義的な受託者責任は人類に対するものである」と明記されています。 ミッションの達成には多大なリソースを動員する必要があることが予想されますが、従業員とステークホルダーとの間の利益相反が幅広い利益を損なう可能性を最小限に抑えるために、常に行動を起こすよう努めます。 "**

言い換えれば、OpenAIは当初から、OpenAIの投資家や従業員の利益ではなく、人類の利益を第一に考えており、将来的には従業員や投資家の利益が人類の利益と衝突する可能性があると最初から考えていたのです。

OpenAI憲章には、「今後の汎用人工知能の開発が競争的になり、十分なセキュリティ対策を講じる時間がないことを懸念している」という、OpenAI自身の利益よりも安全な汎用人工知能がはるかに重要であることを十分に示す文章もあります。 したがって、価値が一致し、セキュリティを意識したプロジェクトが私たちの前にAGIの構築に近づいた場合、私たちはプロジェクトとの競争をやめ、プロジェクトの支援を開始することを約束します。 "**

彼らが気にかけているのは安全な汎用人工知能であり、OpenAIはこの理想を実現するためのツールに過ぎず、理想そのものではありません。 AGIの理想のために、彼らは他の人のためにウェディングドレスを作ることを厭わず、OpenAIプロジェクトを止めます。

OpenAIの「ジョブ」は誰ですか

多くの人は、アルトマンをOpenAIのスティーブ・ジョブズのように考えており、自分たちが設立した会社から追い出され、その後、王の復活を演出したと信じています。

しかし、例えるなら、OpenAI版の「Jobs」はアルトマンではなく、イリヤのものであるべきだと考えています。 ある意味、アルトマンはジョン・スカリー(スティーブ・ジョブズの「一生砂糖水を売りたいのか、それとも一緒に世界を変えたいのか」という言葉でアップルに勧誘され、後に取締役会を率いてジョブズを追い出した)に似ている。

なぜでしょうか。

イリヤとアルトマンがどのような人物で、OpenAIでどのような役割を担っているのかを詳しく調べる必要があります。

全体として、IlyaはOpenAIのチーフサイエンティストとして、OpenAIの技術ロードマップをリードしています。

マスク氏はかつてトークショーで、イリヤの追加がOpenAIの開発プロセスにおける大きなターニングポイントであることを明らかにしました。 OpenAIは当初、現在の大規模モデルの道筋を見つけられなかったと言わざるを得ませんが、Ilyaの追加は今日のOpenAIの成功に不可欠です。

イリヤ自身が参加したいくつかのインタビューから判断すると、彼が強い「技術的な男性の好み」を持っていることも明らかであり、彼は根底にある技術的な論理に注意を払い、常に安全な汎用人工知能の実現を最も重要または唯一の目標と見なしています。

一方、アルトマンは資金調達と商業化に深く関与しています。 だからこそ、投資家や一部の社員から強い支持を得ている。 投資家の目から見ると、投資とは、人々の幻想的な理想に投資することではなく、将来のより高いリターンについてです。 この目標を達成するために、アルトマンは間違いなく良い候補者です。

アルトマン氏が推し進めているのは、資金調達で重要な役割を果たすことに加えて、OpenAIの商用化だ。 少し前、OpenAIは業界に衝撃を与える記者会見を開き、多くの機能を立ち上げ、実質的に商用化への道を開いています。

イリヤとアルトマンの最大の意見の相違は、それを商業化するかどうかだという意見は、ほとんどの人が認めている。 しかし、これはあくまでも第1層に過ぎず、より深く考えると、両者の最大の意見の相違は、実は汎用人工知能がいつ実現されるかについての見解の違いです。 **

なお、アルトマン氏の目標は汎用人工知能を追求することでもあるが、汎用人工知能はまだまだ先であり、このチームを終盤まで支えるには十分な資金が必要であり、資金調達と事業化が必要である。 まずはこのチームを育てて、それからゆっくりとAGIを追求していかないといけない。 その過程で、自分自身とチームのためにより多くのお金を稼ぐことができれば、それは問題ありません。

しかし、イリヤの意見では、AGIはすでに非常に近いかもしれません。 この切迫感は、彼の演説の多くに表れています。

論理的には、汎用人工知能が身近にある場合、最も緊急なのは、もちろんこれが最後のステップであり、汎用人工知能が安全で反人間的ではないことを保証するために、これが最も重要です。 現在の半製品の大規模な商業利用を行う代わりに、「3つのメロンと2つのデーツ」を獲得します。 (汎用人工知能の前では、いくらお金を払っても足りないことはありません。 ）

イリヤの意見では、そう遠くないところに金塊が山積みになっているので、足元にある金塊で時間を無駄にしないでください。 アルトマンの意見では、金鉱に行くのはまだ遠いので、彼はまずチームの「コイル」として道路脇で少し金を拾うべきです。

彼らは皆「善良な人々」であり、AGIをより良く、より安全に実現したいと願っていると言わざるを得ません。 しかし、汎用人工知能を達成するまでの時間の見積もりに違いがあり、同じ目標に対してまったく異なる行動をとることになるかもしれません。 **

これが、イリヤがアルトマンと疎遠になった根本的な原因である。

最良の結果は何ですか?

現状では、イリヤはイリヤとアルトマンの戦いに勝利し、OpenAIの方向性を主導することになります(ただし、彼はCEOではありません)。 では、このような結果はOpenAIにとって最良の選択であり、人間にとってより良い選択なのか、と問わずにはいられません。

著者の意見では、イリヤとアルトマンのどちらかを選ばなければならないとしたら、イリヤの方が良い候補者でしょう。 この2つのうち、Ilyaは明らかにOpenAI憲章に忠実であり、人間に優しいAGIナンバーワンを目指しています。 彼を筆頭に、OpenAIは技術進歩の面でより急進的になるかもしれませんし、汎用人工知能を実現する可能性も少し高いかもしれません。

もちろん、汎用人工知能をより早く達成することが人類にとって良いことかどうかはわかりません。 Ilya は汎用人工知能の安全性を非常に重視していますが、これまで汎用人工知能が人間に優しいことを保証する確実な方法は誰も持っていませんでした。 **

生命全体の進化から判断すると、下等生命体が高等生命体に取って代わられるのは時代の流れのようで、特別なケースはありませんでした。 では、なぜより高度な汎用人工知能は人間に頭を下げ、人間の「乳母」になることを厭わないのでしょうか?

もし地球の最初の支配者が猫で、人間が猫によって開発された高等生命体だったとしたら、人間は何世代にもわたって猫の乳母になることをいとわないだろうか?

もしかしたら、人間は猫を生んだことに感謝し、10年、100年と喜んで世話をしてくれるのかもしれません。 今から1,000年後、10,000年後はどうでしょうか? 遅かれ早かれ、人間が支配を引き継ぎ、猫を永遠に主人として飼うのではなく、せいぜいペットとして飼うことが予想されます。

また、人間は永遠に汎用人工知能と対等になれると考えるべきではありません。 あなたがパートナーと一緒に働いていて、あなたは彼よりもはるかに賢く、強く、最も多くの仕事をし、最も貢献しているが、結果は彼と平等に共有されなければならないと想像してみましょう。 ほとんどの人間はそうしたくないと思うのに、なぜ自律型汎用人工知能にこれを頼むのでしょうか?

独立した意識を持つ汎用人工知能は、人生であり、感情であり、喜びであり、悲しみであり、喜びであり、喪失でもあることを知っておく必要があります。

明らかに、汎用人工知能を人間のために機能させるのは非論理的です。 汎用人工知能の安全性と制御性を実現するためには、この一見非論理的な問題を解決することが核となります。 AGIに犠牲を払う「意思」を持たせる方法を見つけるのは、私たち次第でした。 彼らに「束縛の呪文」を与え、「束縛の呪文」が決して外されないようにします。

その方法、今や誰も答えを持っていません、イリヤは答えを持っていません、彼の先生、深層学習の父であるジェフリー・ヒントンでさえ答えを持っていません。 実際、ヒントンは「自分のライフワークを後悔している」と言ったことがあります。 "

「私たちは、コンピューターが自己改善することをほぼ可能にしましたが、それは危険であり、それをどのように制御するかについて真剣に考えなければなりません」とヒントンはインタビューで述べています。 "

教え子のイリヤも同じ危機感と切迫感を持っていることは明らかだ。 イリヤは、現在の優先事項は「次のGPTやDALL-Eを構築することではなく、AIが制御不能になるのを止める方法を見つけることです」と主張しています。 一方、アルトマンは商業化に執着しており、イリヤはそれを容認できない。

マスク氏は20日朝、この宮廷争いの観戦者として「イリヤは権利を追求しない人物であり、必要を感じない限り、そのような思い切った行動はとらない」と投稿した。 「差し迫った暴走するAGIへの恐怖、さらには恐怖が、彼がそのような思い切った行動をとった理由だと思います。

もう一つ

古いことわざにあるように、「小さな利益を求めないなら、大きな計画を立てなければならない」のです。

多くの物語の最後には、最大の悪役は人間や動物に無害であり、思いやりさえあります。

イリヤの究極の目的が「神々を創造する」ことであることは否定できず(ある意味、汎用人工知能の力は古代・現代の中国や外国の神話や伝説の神々に匹敵する)、彼も多くのインタビューで超知能について言及しています。 汎用人工知能や超知能が避けられないのであれば、彼は最初に「神々」と接触したいと思うかもしれませんし、汎用人工知能を「飼いならす」方法を見つければ、彼はすぐに世界で最も強力な人物になるでしょう。

そんな野望に比べれば、何百億ドルも稼ぐのは小さな利益ではないでしょうか。

もちろん、イリヤはまだその考えを持っておらず、今は人類の「火を盗む者」になりたいだけなのかもしれません。 しかし、特に大きな誘惑に直面したとき、人は変わることができます。

映画「ロード・オブ・ザ・リング」を思い出してください、絶対的な権力の「ロード・オブ・ザ・リング」の前で、どんなに正義の人でも、その絶対的な権利に誘惑されます。

映画「超絶ハッカー」では、科学者のウィル・キャスターが冒頭で非常に正義感があり、彼の妻は彼の人生を新たにするために彼の意識をアップロードし、それを人工知能に統合しました。 物語の後半で、ウィルクスターはサイバースペースに「生まれ変わり」、急速に進化し、すぐに人間の金融ネットワークを制御できるようになり、指をフリックするだけで数百億ドルを口座に送金できるようになりました。

その後、ウィルカスは完全に失われ、彼自身の無限の力を追求し、人類によって彼がもたらす脅威を排除するために人類を裏切りました。

これまでに明らかになった情報から判断すると、汎用人工知能はもはや冗談ではありません。 人類が数十年で汎用人工知能を実現する可能性が本当にあるとすれば、それは間違いなく今後数十年で最も重要なことであり、元の核兵器の100倍も重要なものになるでしょう。

それほど賢くない種族が、自分よりも賢いものを支配することは、前例のない挑戦です。 **

深層学習の父であるヒントンは、自分のしたことを後悔し、「自分じゃなくても、他の誰かがいるだろう」と自分を慰めたことがあります。 確かに、遅かれ早かれ「パンドラ」の箱である汎用人工知能は開けられ、一部の人が耐えても、別のグループの人々はそれに耐えられないでしょう。

核兵器が最初に持ち込まれた時と同じように、ほとんどの人が人類へのリスクを認識できたが、アメリカ人は「アメリカが核兵器を開発しなくても、ドイツとソ連が開発する」と考え、ソビエトは「アメリカは核兵器を持っているし、ソ連も絶対に持っているだろう」と考えるだろう。 "

同じことが多くの分野で当てはまります。 例えば生物兵器は、表面上はみんな禁止しているのに、密かにやっている人もたくさんいるはずです。 そして、他の人は「私がやらなくても、他の誰かがやる」と自分を「慰める」でしょう。 "

これらすべてのリスクと比較して、汎用人工知能ははるかにリスクが高くなります。 なぜなら、核兵器であろうと、生物兵器であろうと、化学兵器であろうと、それらは意識がなく、結局は人間の手中にあることに変わりはなく、それはこのグループとあのグループの違いに他ならないからです。 しかし、いったん汎用人工知能が実現すると、多くのものが人間の手に負えなくなります。

この問題は非常に重要であり、現在の情報から判断すると、すでに緊急です。 アルトマンと比べると、イリヤは少なくとももっと注意を払って、より心配しているので、OpenAIのこの宮廷闘争ドラマでは、私はイリヤを支持します。