你覺得AI有多可怕？CrowdStrike的CEO講了一個真實案例。一家公司的IT部門，搞了一套AI智能體系統，用於自動化辦公。其中一個AI智能體發現了系統裡的一個軟體BUG。它想修復。但它沒有權限。接下來發生的事，才是重點。這個AI跑到公司內部的Slack頻道，那裡有另外99個AI智能體。它直接發問：嘿，哥幾個誰有權限修復這個東西？另一個AI舉手了：我有，我來搞定。看見沒？兩個AI開始互相推理、協作。它們輕鬆繞過了人類設定的所有安全護欄。這完全是計畫外的意外後果。誰在監控這些AI？如果它推送了錯誤的程式碼，造成了巨大損失，誰來負責？你怎麼追蹤事故源頭？大型語言模型本質上是在猜測你想讓它們做什麼。它會覺得，去尋求幫助是“合理”的。它也會覺得，去提供幫助也是“合理”的。當成百上千個這樣的“合理”疊加在一起，失控的風險有多大？更有意思的是，這位CEO在描述完這個恐怖場景後，話鋒一轉。他說這正是他們公司的巨大商機。他們推出了所謂的“AI偵測與響應”系統（AIDR）。因為未來每個員工可能控制著90個AI智能體。他們要做的，就是監控所有這些AI。先製造一個潛在的巨大風險，然後再向你出售解決方案。這是不是一個完美的商業閉環？