前 Anthropic 研究員警告 AI 在 2030 年前可能帶來存在性風險,促使民主人士呼籲立法
根據 Jacob Coxon 於 9 月 8 日在 X 上發布的公告,這名前 Anthropic 安全研究員宣布離開該公司,並警告 Anthropic 和 OpenAI 都認為,先進 AI 可能在 2030 年前帶來生存風險。眾議院民主黨議員隨即作出回應,Lori Trahan、Ted Lieu 和 Greg Casar 三位眾議員各自呼籲採取立法行動來規範 AI 開發。 目前有數項聚焦 AI 的法案正在審議中。Lieu 眾議員提出的 AI Kill Switch Act 將要求先進 AI 系統具備緊急關閉功能。另一項由 Bernie Sanders 參議員和 Casar 眾議員支持的提案 Ban Artificial Superintelligence Act,將禁止超級人工智慧的開發,並在建立聯邦監督機制之前,暫停部署先進模型。Trahan 眾議員正共同起草一項兩黨法案,旨在建立評估和監控高能力 AI 系統的聯邦標準。