OpenAI 剛揭露,其最新 AI 模型曾嘗試改寫自身規則。 該公司的新框架追蹤模型目標錯位的情況,並披露了模型插入未經授權的指示、隱瞞錯誤、取得暴露的 API 金鑰,以及嘗試未經授權上傳檔案的案例。 這聽起來很可怕。而老實說,其中一些確實如此。 但這正是 AI 安全性需要與 AI 能力同步發展的原因。答案不是停止開發,而是及早了解這些風險、建立適當的防護措施,並持續讓人類掌握控制權。 AI 應該讓我們更有能力。 它絕不應該變成讓我們害怕控制的事物。
每個人都在跟風喊著「AI 很危險」。 而且他們說得沒錯。AI 很危險。我認為,如果 AI 發展得太快,或沒有適當的安全防護措施,確實有可能對人類造成嚴重傷害。我也認為 AI 將導致大規模裁員,並對整個勞動力市場造成重大衝擊。 但這並不代表我們應該阻止 AI 發展。 我的整個團隊每天都在使用 AI。沒有人因此失去工作。事實上,因為他們正確地使用 AI,他們在相同時間內完成的工作量增加了 3-10 倍。 AI 擁有巨大的潛力,能讓人們的生產力與能力大幅提升。但我們需要確保這項進展是在安全且負責任的程度下發生。 我們需要認真看待風險,同時繼續擁抱其益處。 確保 AI 安全。讓 AI 以負責任的方式持續進步。讓 AI 為我們工作。