微軟、OpenAI等投入1000萬美元，「前沿模型論壇」是什麼？

原文來源：AIGC開放社區

圖片來源：由無界AI生成

10月26日，微軟、OpenAI、谷歌和Anthropic在官網發佈聯合聲明，任命Chris Meserole為“前沿模型論壇”的執行董事，同時投入1000萬美元安全基金，用於增強ChatGPT、Bard等生成式AI產品安全。

該聲明是四大科技公司對研發安全、可靠、穩定生成式AI的重要表現，同時也是與官方簽訂“AI安全承諾”的一部分，這對於全球生成式AI的健康發展至關重要。

“前沿模型論壇”簡介

“前沿模型論壇”（ Frontier Model Forum）由微軟、OpenAI、谷歌和Anthropic在今年7月26日聯合創立而成，主要職責是確保前沿AI模型的安全和負責任的開發。

該論壇的4大核心目標：

1）推進AI安全研究，促進前沿模型的負責任開發，最大限度地降低風險，並實現對AI能力和安全性的獨立、標準化評估。

2）確定負責任地開發和部署前沿模型的最佳實踐，幫助公眾瞭解技術的性質、功能、局限性和影響。

3）與政策制定者、學者、民間社會和公司合作，分享有關信任和安全風險的知識。

4）大力支持開發有助於應對社會挑戰的AI應用程式，例如，減緩和適應氣候變化、早期癌症檢測和預防以及應對網路威脅。

Chris Meserole職責

Chris在技術政策方面擁有深厚的專業知識，長期致力於新興技術的治理和安全以及未來應用。 最近Chris還擔任了布魯金斯學會AI和新興技術倡議的主任。

在「前沿模型論壇」中，Chris將履行以下職責：

• 推進AI安全研究，促進對前沿模型的發展，盡量減少潛在風險。
• 確定前沿模型的安全最佳實踐。
• 與政策制定者、學術界、社會及其他利益相關方分享知識，推動AI的負責任發展。
• 支援利用AI解決社會最大挑戰的努力。

Chris表示，最強大的AI模型蘊含巨大的社會承諾，但為了發揮其潛力，我們需要更好地瞭解如何安全開發和評估它們。 我很高興與「前沿模型論壇」共同應對這一挑戰。

AI安全基金

在過去一年的時間里，生成式AI獲得了巨大進步，同時伴隨著很多潛在安全風險。 為了解決這一難題，微軟、OpenAI、谷歌和Anthropic成立了一個AI安全基金，用於支援來自世界各地附屬於學術機構、研究機構和初創公司的獨立研究人員，共同努力構建健康、安全的AI安全生態。

今年早些時候，微軟、OpenAI、谷歌、Anthropic與官方簽訂了“AI安全承諾”， 其中包括促進第三方發現和報告四大科技公司中的AI漏洞的承諾。

AI安全基金的主要重點是，支持開發新的模型評估技術，以幫助開發和測試前沿AI模型。

AI安全資金的增加，有助於提高安全和安保標準，併為行業、開發者等應對AI系統帶來的挑戰提供有效的控制措施。