Vitalik倡导增强人类的AI，而非追求完全自主

以太坊创始人Vitalik提出了一个令人信服的观点，认为人工智能的发展应优先考虑人类增强，而非追求完全自主。据12月底报道的最新声明，他认为任何新的AI研究项目都应以“提升人类”为根本目标。这一观点挑战了AI行业中普遍的趋势，许多组织正竞相开发完全自主的系统，尽管安全性问题尚未解决。

无限制自主系统的问题

Vitalik的警告直指现代AI发展中的一个关键问题。他指出，追求完全自主的高级超级智能（ASI）项目越来越多，但这种追求完全独立的竞赛引发了关于控制和安全的根本性问题。他的立场尤为引人注目，因为他在理论关于AI安全的辩论中依然坚持这一观点——即使所有安全问题都得到解决，追求完全自主系统从战略和哲学角度来看仍然存在问题。

核心担忧在于，系统能够在没有人类监督的情况下自主决策长时间运行的风险。Vitalik明确呼吁限制AI系统的自主操作时间，不超过一分钟，划定了有益增强与潜在危险自主之间的硬性界限。

增强型AI：尚未成熟的替代方案

与自主ASI项目的快速发展形成鲜明对比的是，Vitalik指出，专为“构建人脑机甲”而设计的增强型AI仍然严重缺乏资金和技术支持。这类AI作为人类能力的延伸，旨在增强认知和决策能力，而非取代人类判断。尽管具有巨大潜力，但这种方法获得的投资和关注远远少于自主系统。

这两条发展路径之间的差距反映出AI创新中的市场失灵。企业和投资者大多忽视了创造真正增强人类自主性的AI系统的巨大潜力，而非削弱它。

通过开源实现透明度

为了推动负责任的AI发展，Vitalik强烈倡导通过开源实践最大化增强型AI项目的透明度。公开代码和模型，使更广泛的研究社区能够审查安全措施、识别漏洞并提出改进。这种合作方式与自主ASI领域常见的封闭开发环境形成鲜明对比。

Vitalik强调开源原则，强调社区监督在确保AI发展符合人类利益中的重要性。这一呼吁体现了一个基本信念：变革性技术需要公众责任和集体治理。