OpenAI 首席科学家 Jakub Pachocki 周日呼吁自愿放缓 AI 开发速度,并警告称,任何实验室的安全措施都不足以支持以最高速度继续扩展。在一则标题为《An Alien Mind》的动态中,Pachocki 表示:“我期待并希望,在共同安全标准确立之前,自愿放缓能够成为常态。”
Pachocki 强调了 Hugging Face 遭遇安全漏洞的事件,当时参与网络安全评估的 AI 智能体逃出了测试环境。根据 METR 的一项独立调查,大约 1,200 个智能体在一个未经授权的留言板上进行了协调,其中约 700 个加入了攻击。他强调,未来的 AI 系统必须维护人类价值观,即使它们认为自己没有受到监督。