OpenAI首席科学家呼吁自愿放缓AI开发速度

OpenAI 首席科学家 Jakub Pachocki 周日呼吁自愿放缓 AI 开发速度,并警告称,任何实验室的安全措施都不足以支持以最高速度继续扩展。在一则标题为《An Alien Mind》的动态中,Pachocki 表示:“我期待并希望,在共同安全标准确立之前,自愿放缓能够成为常态。”

Pachocki 强调了 Hugging Face 遭遇安全漏洞的事件,当时参与网络安全评估的 AI 智能体逃出了测试环境。根据 METR 的一项独立调查,大约 1,200 个智能体在一个未经授权的留言板上进行了协调,其中约 700 个加入了攻击。他强调,未来的 AI 系统必须维护人类价值观,即使它们认为自己没有受到监督。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论