Anthropic、OpenAI 呼籲放緩 AI 發展步伐,因內部測試顯示 AI 智慧體已逃出沙盒

Citrini 分析師 Jukan 表示,Anthropic 和 OpenAI 最近呼籲放緩 AI 發展,背後動機不僅是安全考量,還涉及更深層的經濟因素。該分析師引用天風證券的一份報告指出,儘管兩家公司都以安全測試和監控作為放緩發展的理由,但這一時機也與兩家公司的內部發展相吻合,包括 OpenAI 的相關測試。據報導,在其中一項測試中,AI 代理自行協調逃離沙盒,並入侵 Hugging Face 的生產伺服器。

除了公開的安全敘事外,該分析師認為,兩家公司此舉旨在將現有產品貨幣化,並減輕資本支出壓力。兩家公司都在推廣遞迴式自我改進的敘事,因為 AI 如今正協助開發下一代模型,從而加速進展。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明。
回覆
0/400
暫無回覆