先月、アルトマン氏は非営利団体人工知能安全センターが主催する公開書簡に署名し、その内容は「AI絶滅のリスクを軽減することが世界的な優先事項であるべき」であり、それを「パンデミックと核戦争」に関連付ける必要があると述べた。他の署名者には、Altman 氏の OpenAI 同僚や Microsoft や Google の科学者も含まれます。
起業家で発明家のレイ・カーツワイルは、常にシンギュラリティ理論の最大の支持者です。彼は、1990 年に出版された「The Age of Intelligent Machines」、2005 年の「The Singularity Is Near」など、特異点に関する多くの本を執筆しており、現在は「The Singularity Is Closer」を執筆中です。
批評家たちは、大規模な言語モデルの驚くべき進歩でさえ、シンギュラリティ理論が約束する世界の知恵が不滅に長く続くことには程遠いと反論している。誇大宣伝と現実を正確に区別することの欠点は、このテクノロジーを推進するエンジンが隠されていることです。 OpenAIはオープンソースを活用する非営利企業としてスタートし、現在は営利企業となっているが、ブラックボックス化に成功していると批評家らは言う。 Google と Microsoft も限定的な可視性しか提供していません。
Charles Stross は、特異点を扱ったコメディー小説「Nerd Mania」の共著者です。同氏は、「ここでの本当の約束は、企業が欠陥があり高価で動作が遅い手動の情報処理サブモデルを、問題の解決とオーバーヘッドの削減に役立つ特定のソフトウェアプログラムに置き換えることができるようになるということだ」と述べた。
人工知能はシリコンバレーに「特異点」の瞬間をもたらすのに役立つ? 2045年には人間の知能は100万倍に向上する可能性がある
シリコンバレーは何年もの間、新しいテクノロジーが出現してすべてを変えるのを待ってきました。それは人間と機械を組み合わせてより高度な知性を生み出し、歴史に一線を画すことになるだろう。このマイルストーンの瞬間は「特異点」として知られています。
それはさまざまな方法で発生する可能性があります。リスクの 1 つは、人々が自分自身の生来の知能に PC の処理能力を追加し、自分自身のスーパーミュータントに変えてしまう可能性があることです。あるいは、コンピュータ システムが非常に複雑になり、実際に世界の思考を生み出す可能性があります。
どちらの場合も、その後の変化は急激で指数関数的かつ不可逆的なものになる可能性があります。自己認識を備えた超人的なマシンは、どの科学者グループよりも早く独自の機能強化を設計し、知能の爆発を引き起こす可能性があります。何世紀にもわたる進歩は、数年、あるいは数か月で達成されることもあります。
人工知能はテクノロジー、ビジネス、政治の分野で前例のない波を起こしています。シリコンバレーの誇張された主張や突飛な予測に注意してください。長年約束されていたデジタルパラダイスがついに手の届くところまで来ているようです。
普段は控えめなグーグルの最高経営責任者サンダー・ピチャイ氏は、人工知能の影響は「火や電気、あるいはわれわれがこれまでに行ってきたものよりもはるかに深い」と語った。
億万長者投資家のリード・ホフマン氏は、「この地球上で建設的な変化を起こす能力が、これまでにないほど大きく後押しされようとしている」と語った。
マイクロソフトの共同創設者ビル・ゲイツ（インボイス・ゲイツ）は、人工知能が「人々の働き方、学習、旅行、医療の受け方、そしてお互いに最適なコミュニケーション方法を変えるだろう」と宣言した。
しかし、ここには暗い展開があります。あたかもテクノロジー企業が自動運転車を発売し、ウォルマートに行く途中で爆発する可能性があると警告しているようなものだ。
**ツイッター社とテスラ社のトップ、イーロン・マスク氏は先月のインタビューで、「汎用人工知能の出現は特異点と呼ばれる。なぜなら、その後に何が起こるかを予測するのは難しいからだ」としながらも、「豊かな時代」が来ると信じていると述べた。しかし、そのAGIもまた「人類を滅ぼす可能性を秘めている」のです。 **
テクノロジーの世界で、人工知能の最大の支持者は、チャットボット ChatGPT が現在のブームの火付け役となったスタートアップ、OpenAI の最高経営責任者であるサム アルトマン氏です。アルトマン氏は、AIは「私たちがこれまで見た中で、多くの人々に経済的権限を与え、富を与えるものとしては最も優れている」かもしれないとしながらも、マスク氏の言うことは正しいかもしれないとも述べた。マスク氏は人工知能に批判的であり、ブレイン・コンピューター・インターフェースの開発に特化した組織も設立した。
先月、アルトマン氏は非営利団体人工知能安全センターが主催する公開書簡に署名し、その内容は「AI絶滅のリスクを軽減することが世界的な優先事項であるべき」であり、それを「パンデミックと核戦争」に関連付ける必要があると述べた。他の署名者には、Altman 氏の OpenAI 同僚や Microsoft や Google の科学者も含まれます。
「世界の終わり」というテーマはシリコンバレーではすっかりおなじみとなり、多くの人が熱心に議論したい分野ですらあります。数年前までは、大手テクノロジー企業は皆、人里離れた場所に、しかしアクセス可能な場所に、品揃え豊富な終末地下壕を持っていたように思えた。 2016年、アルトマン氏は「武器、金、ヨウ化カリウム、抗生物質、電池、水、防毒マスク、飛行機で行けるビッグサーのエリア」を集めていると語った。それは正しいことです。彼らは今、特異点の到来に備えて準備を進めている。
シンギュラリティのルーツ
特異点の考え方のルーツは、先駆的なコンピューター科学者であるジョン フォン ノイマンに遡ります。彼は 1950 年代に、「加速し続けるテクノロジーの進歩」がどのようにして「世界における最も重要な特異点のいくつかを生み出すか」について語っています。人間の歴史"。
第二次世界大戦中にブレッチリー・パークでドイツのエニグマ暗号システムの解読に貢献したイギリスの数学者アービング・ジョン・グッドも特異点理論の支持者でした。 「人類の存続は、超知能機械の早期開発にかかっています」とグッド氏は1964年に書いた。スタンリー・キューブリック監督は、『2001年の家の旅』で人工知能HALについて言及したが、これは両者の境界があいまいになった初期の例である。コンピューターサイエンスとサイエンスフィクション。
カーネギーメロン大学ロボット研究所の非常勤教授であるハンス・モラベック氏は、人工知能は人間にとって大きな恩恵をもたらすだけでなく、特異点では無生物もリサイクルできると信じている。 『マインド・チルドレン：ロボットと人間の知能の未来』の中で、彼は次のように書いている。「私たちは過去を再現し、現実的かつ即座に過去と対話する機会を得るでしょう。」
起業家で発明家のレイ・カーツワイルは、常にシンギュラリティ理論の最大の支持者です。彼は、1990 年に出版された「The Age of Intelligent Machines」、2005 年の「The Singularity Is Near」など、特異点に関する多くの本を執筆しており、現在は「The Singularity Is Closer」を執筆中です。
**カーツワイルは、2030 年までにコンピューター システムがチューリング テストに合格し、人間と区別がつかなくなると予測しています。同氏は、今から 15 年後、「コンピューティングが私たちの一部となり、私たちの知能が 100 万倍に増加する」真の特異点が到来すると予測しています。その頃にはカーツワイル氏は97歳になっているかもしれない。栄養ビタミンや栄養補助食品の助けを借りて、彼は次の展開を続けていきたいと考えています。 **
特異点理論の一部の批判者にとって、ソフトウェア プログラミングの分野で知覚システムを複製することは、知的に疑わしい試みです。マサチューセッツ工科大学のコンピュータサイエンス・人工知能研究所の元所長であるロドニー・ブルックス氏は、「彼らは皆、神を信じる不便を感じずに永遠に生きたいと望んでいる」と語った。
現在、シンギュラリティの議論を推進しているイノベーションは、チャットボットを強化する人工知能システムの一種である大規模な言語モデルの出現です。これらの大規模な言語モデルと対話する過程で、迅速かつ一貫した解決策を思いつくことがあります。
「あなたが質問すると、これらのモデルはそれが何を意味するのかを説明し、応答するはずであると判断し、それからそれを言葉に翻訳します。それが自然知能でないとしたら、何でしょうか?」
カプラン氏は、自動運転車や仮想通貨など、大々的に宣伝されている奇跡には懐疑的だと述べた。彼は最近の人工知能の成長についても同様の懸念を抱いているが、説得されていると言う。 「これが『特異点』ではないとしても、それは確かに革命的な技術爆発であり、さまざまな芸術、科学、人類の知識を広く加速させると同時に、多くの疑問も生み出すだろう」と同氏は述べた。
批評家たちは、大規模な言語モデルの驚くべき進歩でさえ、シンギュラリティ理論が約束する世界の知恵が不滅に長く続くことには程遠いと反論している。誇大宣伝と現実を正確に区別することの欠点は、このテクノロジーを推進するエンジンが隠されていることです。 OpenAIはオープンソースを活用する非営利企業としてスタートし、現在は営利企業となっているが、ブラックボックス化に成功していると批評家らは言う。 Google と Microsoft も限定的な可視性しか提供していません。
AI分析のほとんどは企業によって行われており、その結果から得られるものはたくさんあります。 OpenAIに130億ドルを投資したマイクロソフトの研究者らは、4月に発表した論文で、OpenAIの最新モデルは「抽象化、理解、視覚、符号化」や「人間の動機と感情の理解」など「知能の多くの特性を示す」と結論付けた。 。
スタンフォード大学のコンピュータサイエンスの博士課程学者であるライラン・シェーファー氏は、一部のAI研究者は、これらの大規模な言語モデルがどのように「新たな才能」、つまり小さな変異体で説明のつかない能力を発揮するのかを誤って特徴づけているが、それは明白ではないと述べている。
シェーファー氏は、スタンフォード大学の二人の同僚、ブランド・ミランダ氏とサンミ・コエジョ氏とともに、先月出版された分析論文でこの疑問を調査した。彼らは、新たなブームは測定誤差によって引き起こされた「蜃気楼」であると結論づけた。 IMPACT では、研究者は見たいものを見ました。
永遠の命と永遠の利益
ワシントン、ロンドン、ブリュッセルでは、議員らがAIの代替案と問題点について議論し、規制について話し始めている。アルトマン氏は現在、世界ツアーを行っており、初期の批判をかわし、シンギュラリティの先導者としてOpenAIを宣伝したいと考えている。
これには、規制を受け入れることが含まれますが、その方法に関する明確な枠組みはまだありません。シリコンバレーでは、急速な技術開発を監督するには政府の動きが遅すぎるとよく主張する。 Googleの元最高経営責任者（CEO）エリック・シュミット氏は最近のインタビューで、政府の誰もこれを正しく理解することはできず、AIは自らを規制すべきだと考えていると述べた。
AI はシンギュラリティに似ており、不可逆的な技術トレンドとして説明されています。アルトマン氏と数人の同僚は先月、「これを阻止するには世界的な規制体制に似たものが必要だが、それさえ機能する保証はない」と書き、シリコンバレーでそれができないなら、おそらく他の場所で成功するだろうと付け加えた。
さらに、この傾向から得られる莫大な収入についてはあまり言及されていません。人工知能は巨大な富を生み出す機械であるという話ばかりですが、金持ちになるのはすでに金持ちになっている人だけです。マイクロソフトの市場価値は今年、5000億ドル急騰した。 Nvidia は、人工知能チップの需要の急増により、米国で最も人気のある上場企業の 1 つと考えられています。
「AIは世界が常に望んでいたテクノロジーだ」とアルトマン氏はツイートしたが、確かにそれはテクノロジー業界がずっと望んでいたテクノロジーであり、最高の時代に到達したものだ。昨年、シリコンバレーは人員削減と金利上昇に見舞われ、初期に成長していた仮想通貨分野は詐欺と失望に見舞われた。
Charles Stross は、特異点を扱ったコメディー小説「Nerd Mania」の共著者です。同氏は、「ここでの本当の約束は、企業が欠陥があり高価で動作が遅い手動の情報処理サブモデルを、問題の解決とオーバーヘッドの削減に役立つ特定のソフトウェアプログラムに置き換えることができるようになるということだ」と述べた。
特異点は常に、刺激的な素晴らしい「宇宙の瞬間」として想像されてきました。しかし、現在シンギュラリティが議論されているのは、米国企業が人員削減を図り、利益拡大に執着していることが主な理由かもしれない。誇張的に言えば、あなた（起業家を指します）が時価総額を何兆ドルも増やそうと全力で取り組んでいるときは、（達成不可能な）楽園でさえも永遠に待ち続ける可能性があります。 （文／ジンル）
参考文献: