AI 小作文搞崩科大訊飛股價，科技「魔法」反噬科企

AI「黑色幽默」越來越多了。

撰文：落落

5 月24 日午後，A 股公司科大訊飛的股價突然走出深V 造型，閃崩8%。科大訊飛回應稱，股價下跌系某生成式AI 寫作虛假小作文導致，謠傳風險為不實消息。

網傳的一篇「小作文」謠稱「科大訊飛被曝採集用戶隱私數據研究人工智能引發爭議」，後被網友舉證系AI 撰寫、微博博主發布；另一篇稱「美國正在考慮將科大訊飛列入禁止使用美國組件或軟件的實體名單」，實際上，科大訊飛2019 年10 月就在名單上了。

AI 時代的又一個「黑色幽默」就此誕生：科技公司創造出來的「魔法」開始攻擊科技公司了。還好，寫作文的AI 不是科大訊飛自家剛推出「星火認知大模型」，不然這個幽默就更黑了。

事實上，這一幕2 天前已在美國上演：一張華盛頓五角大樓爆炸的圖片在推特上瘋傳時，美股市場的道指、標普500 指數雙雙短時下跌，後被證明這張圖是AI 生成的假圖。

當生成式AI 被科技企業釋放給眾人時，「生產力革命」開始了，反噬也開始了。

**科大訊飛股價閃崩AI 小作文搞得鬼？ **

5 月24 日下午13 時許，科大訊飛的股價不到半小時內從58.3 元跳水至53.5 元，短時下挫8%，15 分鐘後修復至56.5 元附近。

股價閃崩後，科大訊飛回應紅星新聞等媒體稱，股價下跌系某生成式AI 寫作虛假小作文導致，公司未發生相關事件，謠傳風險為不實消息。

很快，網友開始上線「偵查」，想看看打擊科大訊飛股價的「小作文」到底是誰寫的。

有多名微博博主發圖稱，有微博用戶在5 月24 日13 時44 分發文稱，「科大訊飛被曝涉嫌大量採集用戶隱私數據，並將其用於人工智能研究.....」

網友扒出的假消息來源

目前，傳播這一消息的微博賬號已無法搜到，從搜索引擎檢索該賬號過往信息時顯示為「根據博主設置，該內容不可見」，該賬號的關注人數在去年就超66 萬。

另有網友找到了微博消息的疑似出處，「市場瘋傳的原來是文心一言生成的」，該網友發布的圖片顯示，百度文心一言大模型對「寫一篇科大訊飛出現重大風險的警示文」的回复內容，其中有一整段與傳聞信息完全相同。

網傳的科大訊飛「小作文」還不止一篇，另一篇還加上了「有外媒援引知情人士」的這樣的信源，稱美國正在考慮是否將科大訊飛、美亞柏科等加入「實體名單」，禁止它們使用美國的組件或軟件。

券商國聯海外對此發文闢謠：科大訊飛已於2019 年10 月被列入實體清單，對公司日常經營未產生重大影響。

網友、券商們紛紛舉證，加入打擊市場謠言的隊列。科大訊飛也表示，公司法務部已對相關信息取證。吃瓜群眾只能等個後續結果，希望能讓大眾看清生成式AI 到底是如何打擊科技公司的股價。

今年5 月初，科大訊飛也推出了生成式AI 產品「星火認知大模型**」**，號稱要在今年10 月24 日前讓自家的大模型在中文能力上超越ChatGPT，英文能力與之相當。結果，埋頭忙超越的科大訊飛，先被生成式AI 搞了股價。

自己吃了虧，「星火」創造者或許能從遭遇中吸取經驗，打造出一道謠言防火牆。好在「小作文」沒顯示出自「星火」，不然這事兒就變得更諷刺了。

**「**五角大樓爆炸」假圖震動美股

無獨有偶，就在2 天前，美股也被人用AI 生成的假消息整跌了。

當地時間5 月22 日到23 日間，一條「華盛頓特區五角大樓大樓附近發生大爆炸」圖文消息在推特上瘋傳，圖片裡，美國國防總部附近出現了一大團煙霧。圖文內容出自認證賬號@Bloombergfeed。

AI 生成的五角大樓假圖

到了5 月23 日上午，這條圖文已經到處擴散，而且只用了幾分鐘，就讓美國股市出現了短暫震盪。當日上午，道瓊斯指數在10點06 分到10 點10 分之間下跌80 點；標準普爾500 指數在10 點06 分至10 點09 分的3 分鐘內下跌了0.26%。不過，兩大指數都在下跌的2、3 分鐘後收陽。

這條消息還直接驚動了阿林頓的消防局和警局。當日上午10 點27 分，阿靈頓消防局在推特上表示，它和五角大樓部隊保護局已「知道社交媒體在網上流傳的關於五角大樓附近發生爆炸的報導。」阿靈頓警局則迅速闢謠稱，圖片和文字都是假的，「五角大樓保留地或附近沒有發生爆炸或事故，對公眾沒有直接危險或危害。」

很快，各種新聞媒體們也開始打假：這張圖片是由AI軟件生成的。加州大學教授哈尼·法里德(Hany Farid)也對美媒體指出，「這張圖片顯示了人工智能合成的典型跡象：建築物和圍欄上存在結構性錯誤。」

此後，發布圖片的帳戶@Bloombergfeed 被推特暫停。但人們到現在也不知道這張圖片是從哪個AI 生成軟件上來的。

特蕾莎·佩頓是喬治·W·布什政府的前首席信息官，她就此事接受媒體採訪表示，一些檢測圖像真偽的方法是在谷歌上反向查找，比較圖像首次發布的時間和它開始傳播的時間，並註意是否可以在圖像上發現新聞媒體水印，「這次的假五角大樓照片裡就沒有。」

佩頓承認，憑藉當今的技術，「謊言確實比真相傳播得更快。」她還提示公眾，「雖然政府組織試圖解決這個問題，但作為公民，我們將不得不在某種程度上先自我保護，因為政府和法律需要很長時間才能趕上，」她說，「例如，當你看到類似的事情時，在你做出任何重大財務決定之前，要關注新聞媒體機構，看看他們在報導什麼。」

但諷刺的是，「五角大樓爆炸」的假消息傳播鏈條上，還真有新聞媒體。分享該圖文的各種推特帳戶裡出現了RT，這是一家擁有300 萬粉絲的俄羅斯國營媒體。事後，該媒體賬號刪除了轉發的推文。

無論中外，生成式AI 已經在人類的驅使下打擾到現實了。 造謠中傷搞網暴，仿聲仿影騙錢財，AI 濫用事件前兩天還登上了微博熱搜榜首，這兩天開始影響金融市場了。

科技公司們打開的「潘多拉魔盒」目前還沒有關上的跡象。現在，「魔法」開始反噬製造它的一方了，他們打算如何應對呢？