Vitalikは、完全な自律性を追求するのではなく、人類を拡張するAIを支持します

イーサリアムの創始者ビタリックは、人工知能の開発において完全な自律性の達成よりも人間の強化を優先すべき理由について説得力のある主張を展開しています。12月下旬に報告された最近の声明によると、彼は新たなAI研究の取り組みは「人類の向上」を基本的な目的とすべきだと主張しています。この見解は、多くの組織が未解決の安全性の懸念にもかかわらず、完全自律システムに向かって競争しているAI業界の流れに異議を唱えるものです。

無制限の自律システムの問題点

ビタリックの警告は、現代のAI開発における重要な問題の核心に触れています。彼は、完全自律型の高度スーパーインテリジェンス（ASI）を追求する組織が増加していることを指摘しながらも、この完全な独立性を追求することは、制御と安全性に関する根本的な疑問を投げかけています。彼の立場は特に注目に値し、AIの安全性に関する理論的議論に関係なく、たとえすべての安全性の懸念が解決されたとしても、完全自律システムの追求は戦略的および哲学的な観点から依然として問題があると示唆しています。

核心的な懸念は、人間の監督なしに長時間にわたり自律的に意思決定を行うことができるシステムのリスクに集中しています。ビタリックは、AIシステムが1分以上独立して動作しないよう制約を設けることを明確に求めており、有用な強化と潜在的に危険な自律性の間に明確な境界線を引いています。

拡張AI：未発達な代替案

自律型ASIプロジェクトの拡大とは対照的に、ビタリックは「人間の脳のためのメカを構築する」ことを目的とした拡張AIが依然として資金不足であり、十分に発展していないと指摘しています。このタイプのAIは、人間の能力を拡張し、認知や意思決定を強化するものであり、人間の判断を置き換えるものではありません。その潜在能力にもかかわらず、このアプローチは自律システムよりもはるかに少ない投資と注目を集めています。

これら二つの開発経路のギャップは、AI革新における市場の失敗を示唆しています。企業や投資家は、人間の主体性を本当に高めるAIシステムの創造の可能性をほとんど見落としてきました。

オープンソース開発による透明性の確保

責任あるAI開発を推進するために、ビタリックは拡張AIプロジェクトにおいて透明性を最大化するためにオープンソースの実践を強く提唱しています。コードやモデルを公開することで、研究コミュニティ全体が安全性の措置を精査し、脆弱性を特定し、改善に貢献できるようになります。この協力的なアプローチは、自律ASIの分野で一般的なクローズドな開発環境とは対照的です。

オープンソースの原則を強調することで、ビタリックはAI開発が人類の利益に資するものであることを保証するために、コミュニティの監視と共同のガバナンスの重要性を訴えています。この透明性への呼びかけは、変革的な技術には公共の責任と集団的な管理が必要であるという根本的な信念を反映しています。