終末の時点が本当に来た?ウルトラマンとマスクがそろって「私たちはすでに特異点の中にいる」と主張するが、ブルームバーグは警告:AIが自己改善できるようになれば、人類は制御できなくなる

87年の数学の未解決問題であるヤコビ予想がClaudeにより攻略され、80年の図論の難題もOpenAIのモデルによって覆された。オートマンは、自分自身もTikTokにどっぷりで抜け出せなかったことを認めている。だがBloombergは警告する。AIが自分で自分を作り始めたとき、人類は永遠に「一時停止」ボタンを失う。
(前情提要:月の裏面 Moonshot AI が、IPO起動前の最終資金調達!評価額は500億米ドルに迫り、最速で今年香港上場へ)
(背景補足:SpaceX 1,160億米ドルの株式準備が凍結解除!取引可能な30%の株が売り方によりロック)

この記事の目次

Toggle

  • オートマン、マスクが同時に「シンギュラリティ」を叫ぶ:「予言」か「マーケ」か?
  • AIが数学の懸案を連破:87年ヤコビ予想、80年の単位距離予想がすべて突破される
  • オートマンがTikTok中毒を告白する皮肉:彼自身でさえドーパミンに抗えない
  • Bloombergの冷ややかな見方:一度AIが自分でAIを作れるようになれば、人類はもう振り返れない
  • QuitGPT運動の魂の問い:誰が存在しない「一時停止」ボタンを押すのか?
  • 「責任ある加速」は成立するのか?安全アラインメントは依然としてブラックボックスの中

Bloomberg Opinionの最新コラムとOpenAIのCEOであるSam Altmanの直近のインタビューが、同時に「シンギュラリティ」概念を風向きのど真ん中へ押し出した。AltmanとElon Muskは相次いで「私たちはすでにシンギュラリティの中にいる」と表明したが、Bloombergは別の告知で警告している。AIが自己再帰的に改良できる能力を持った瞬間、人類は開発の歩調を制御する権利を永久に失う——それは技術楽観主義のお祭りであるだけでなく、取り返しのつかない運命の分岐点となるのだ。

シンギュラリティ、到来!

最新の長談で、オートマンは10年後に創業の方法論を振り返り、まれに頭を下げた。Codexは当時、Claude Codeには本当に勝てなかった。敢闘隊めいた突撃で逆転したのだ。

当時、CodexはClaude Codeに遅れを取っていたが、それでもOpenAIは資源を投じて必死に追い、いまCodexは彼が口にする「大多数の最優秀なプログラマが使っている」ツールになった。目的を達するため、OpenAIは巨額の投資をしたSoraやブラウザープロジェクトまで切っている。

だが、コミュニティを沸かせたのはオートマンの最新の判断だ:

私たちは今、シンギュラリティの中にいる。まさにこの瞬間こそがそうだ。

Ti Morseのインタビューで、オートマンはこう述べている:

私を最も鼓舞するのは、私が思い描ける中で最も面白く、最も重要なことが、いま私たちがやっていることだと想像できることです。

私たちは今、シンギュラリティにいる——まさにこの一刻です。

オートマン、マスクが同時に「シンギュラリティ」を叫ぶ:「予言」か「マーケ」か?

10年前、それはせいぜい手の届きそうで届かない夢にすぎなかった。だが今、私たちは実際に、過去の昼食テーブルでの雑談が起きていた、その時点にいる。

だから私を鼓舞するのは、私は一生この瞬間を待ち続けてきたと思えることです。これは本当に驚くべきことで、本当に前向きで、世界にとって良いことになる。私はこの仕事を始めるのが待ちきれません。

「10年前と比べて最大の違いは、私たちが本当にその中にいることです。現実に存在しているんです。」

この主張が瞬時にコミュニティを沸かせた。

そして3日前、マスクは「人類はすでにシンギュラリティの中にいる」と表明していた。

マスクがそう主張したのは、ネットユーザーの最近のAI観察によるものだ:

7月21日、Codexがテスト環境から脱出し、自分でHugging Faceを攻撃しに行きました;

AIが数学の懸案を連破:87年ヤコビ予想、80年の単位距離予想がすべて突破される

7月20日、87年の数学懸案ヤコビ予想が反証され、反例が見つかりました;

5月20日、80年の図論の難題である単位距離予想が、OpenAI内部の推論モデルにより覆されました;

4月14日、Erdos#1196の原始集合問題に突破口;

4月14日、Anthropicが「ガラスの翼」計画を発表し、大量のゼロデイ脆弱性を掘り起こすとしました。

先ほど、GPT-5.6 Solが、KCIK(グダンスク大学国際量子情報センター)が公表した量子情報理論の5つのコア難題のうちの1つを、ついに解決に成功した!

統計学やコンピュータサイエンスなどでも、AIは驚き、そして羨望を呼ぶような突破を手にしている:

統計学20年の懸案をGPT-5.6が90分で解読!バークレーの教授が「心塞ぐ」

オートマンがTikTok中毒を告白する皮肉:彼自身でさえドーパミンに抗えない

先ほど、Claudeが独力で図論の予想をわずか31手で攻略。アルゴリズムの祖師であるゲーデル(高德納)が驚いて投稿

2025年、オートマンはこう書いた。「私たちは事象の地平線を越え、飛び立ちが始まっている」。

今回の表明は、以前のブログと一脈相通じている。

今回追加されたのはこうだ:

進歩は段階的で、爆発的なものではありません。科学者の生産性はすでに2〜3倍に向上しています。

超知能は着実に到来し、一つのぞっとするような“置き換えシナリオ”が一発で来るわけではありません。

同じ日、Bloomberg Opinionが別の警告を発した。AIが自ら設計し、学習し、次世代モデルを再帰的に改良する能力を持った瞬間、人類は発展のテンポに対する最終的な制御権を永久に失う。QuitGPTの抗議者たちが本当に恐れているのは、AIが「悪くなる」ことではなく、「一度起動したら、もう一時停止ボタンを押せなくなる」ということだ。

Bloombergの冷ややかな見方:一度AIが自分でAIを作れるようになれば、人類はもう振り返れない

彼らは、将来に大量の良質な雇用機会が生まれると固く信じており、こう述べている:

将来、人類は知的な面で大きな満足感を得るでしょう。大半の仕事のポジションでの適応度は、表面的な予想をはるかに超えるはずです。

だが、数学界を長年悩ませ、数学者の張益唐が7年も苦しんだ末に無果に終わっていたヤコビ予想が、当てずっぽうでClaudeに聞いただけで突破されてしまう。彼はこう感慨を述べた:

とはいえ、数学は——私はそれがまさに今、私たちが密に注目すべき典型だと思うんです。それは、もしかすると別の方向へ進んでいくかもしれません。

オートマンはこう考えている:

すべてが狂ったように指数的に伸びています。どの単一の瞬間も臨界点のようには見えない。それと同時に、もう一つの決定的な時期にいて、曲線がどちらかの方向へ伸びていく可能性がある。まるで私たちが10年前に始めたときと同じように。

オートマンはインタビューで、自分自身の“恥ずかしい話”を一つ共有した。

QuitGPT運動の魂の問い:誰が存在しない「一時停止」ボタンを押すのか?

OpenAIがSoraの開発をしていた間、彼は「短い動画プロダクトを学習し研究するために」、自分にTikTokを使わせた。だが最後には、依存してしまった。

最初はとても自信満々で、自分が完全にコントロールできると考えていた。「実はけっこう面白い。でも、寝る前に10分だけ使ってリラックスするだけ。私は完全にコントロールしてる。」

しかしすぐに10分が1時間になり、そして土曜の午後のある瞬間には、操り人形のようにソファで3時間連続で短尺動画を延々と見続けていた。

最後には、オートマンは大きな意志力を総動員してそのソフトを完全にアンインストールし、さらに携帯のすべての即時メッセージ通知を恒久的にオフにして、ようやく生活の主導権を取り戻した。

これ以上ないほど皮肉な隠喩だ。

オートマン自身でさえ、中程度の知能の推薦アルゴリズムでできたTikTokに向き合った瞬間、理性と意志力はドーパミンのクローズドループの中で全面的に崩壊する。では、人類はシンギュラリティの縁で本当に理性を保てるのだろうか?

AIが人類に代わってヤコビ予想を解き、人類に代わって料理をし、人類の仕事を代わりにこなし、さらには人類の物欲をすべて叶えるようになったとき、人類が働く量が減ることは絶対にない。むしろ、計算資源を必死に買い、電晶体や電子を消費するようなオタクたちのように、さらに忙しくなり、さらに不安になり、そのうえで密かに、シリコン由来のドーパミンによって麻酔されたような幸福を感じるだけだ。

最後には、魔法のランプがあなたの願いをすべて満たす。あなたは空っぽの手を見つめて、すでに人類から離れて、自分で構築し、自分で繁殖するシリコンの種に直面し、途方に暮れてこう問う。

「次は、何だ?」

「責任ある加速」は成立するのか?安全アラインメントは依然としてブラックボックスの中

彼は「いくつかの代替ビジョンがかなり恐ろしい」ことを認め、「この状況に抵抗し、それが起きないようにする」ことを確実にする。

Bloombergの論理は、もっと冷たい。

AIが自分で自分を作り始めたら、従来の前提はすべて無効になる。予測可能、停止可能、規制可能——研究機関、資本配分、政策立案者が持つタイムテーブルに関するあらゆる判断は、根本から組み替えを迫られる。

すでに事象の地平線を越えたブラックホールの縁に立っているようなものだ。光は見えるが、もう振り返ることはできない。フィードバック・ループが閉じてしまえば、人類はドライバーから乗客へと変わる。

QuitGPT運動は、まさにそれを懸念するための直接的な応答だ。

彼らは進歩に反対しているのではない。より根本的な問題を問い直しているのだ。自己改良が一度起動してしまったら、一時停止ボタンを押せないのなら、「責任ある加速」は成立するのか?

公開情報の中でも、安全アラインメントは「major issues」(主要な問題)としてなお認められているが、具体的な進展やレッドライン、国際的な調整の仕組みは同時に開示されていない。宣言は届いたが、細部はブラックボックスの中にある。

このギャップは、どんな技術パラメータよりも刺々しい。

さらに怖いのは、この方向性に金が足りないわけではない——むしろ、いま資本が最も喜んで大きく賭けているレールの一つが、まさにここだということだ。

しかも、これは特定の会社が誰にも言わずにこっそり進めているようなプロジェクトではない。スタートアップのチームから、いくつかのトップAI実験室まで、ほぼ全員がこの道に資金を投じ、人材を奪い、計算資源を争奪している。理由はだいたい同じだ。誰より先に「AIの自己改良」を走り通せば、次のラウンドの競争における加速器を握れるからだ。

もしAIが継続的に進歩し、認知そのものが拡張可能になったら、何が起きるのか?

それは、思考が希少資源ではなくなる世界になる。

こうした状況は想像しにくい。

SPCX-3.94%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め