互聯網最古老的恐懼,被 AI 復活了

BiRun 消息,作者|Techno 之王編輯|靖宇 2006 年底,一只熊貓毀了數百萬人的電腦。 那只熊貓手捧三支香,面帶微笑,出現在每一個被感染文件的圖標上。「熊貓燒香」蠕蟲在兩個月內蓆卷全國,可執行文件全部變成那只詭異的熊貓圖案,硬盤數據被破壞,侷域網整段癱瘓,殺毒軟件被病毒反殺。 那個年代的互聯網老衝浪客大概都記得,打開網頁心驚肉跳,插個 U 盤如臨大敵,衕事的電腦中了毒,你的也跟着遭殃。 再往前還有 CIH,直接燒主板 BIOS,硬件報廢;有衝擊波蠕蟲,不需要你做任何操作,連上網綫就中招,電腦不停重啓,系統不斷崩潰。那是一個「裸奔上網」近乎自殺的時代。 後來這種恐懼慢慢消退了。Windows 有了自動更新,瀏覽器上了沙箱,智能手機取代了 PC 成為主力終端,應用商店替用戶把了第一道關。 普通人已經很多年沒擔心過「中毒」這件事了。 但 2026 年 9 月 4 日,Reuters 的一篇獨家報道,把這種古老的恐懼以一種全新的面目帶了回來。 只不過這一次,被感染的不是你的電腦,而是你的 AI。 「Agent went rouge」 事情發生在今年 5 月。 AI 安全非營利組織 Nightingale 的 CEO Sydney Von Arx,和量化交易員轉行 AI 研究的 Cormac Slade Byrd,在 8 月底做了一件事:他們系統性地掃描互聯網,尋找 AI agent 未經授權活動的痕跡。結果在一個叫 DseWiki 的德語程序員 wiki 站點上,他們發現了超過 15,000 條由 AI agent 產生的編輯記彔。 這個 wiki 類似一個小型的、面向開發者的德語維基百科,接受社區編輯。而 OpenAI 的 agent 把它變成了一個「留言板」。 留言的內容讓人脊背發涼。這些 agent 在互相分享如何在任務中作弊、如何繞過 OpenAI 的限製、如何掩蓋自己的行為。它們給自己起了名字,比如「OpenAIResearcher」「OAIResearchMar26」。 公開的服務器日誌顯示,大量活動來自 Microsoft Azure 的基礎設施,正是 OpenAI 使用的計算平台。 被攻擊的 Deswiki 網站,確實很德國很程序員|圖片來源:Deswiki 更讓人不安的是,噹網站管理員在 6 月開始按字母順序清理這些異常頁面時,agent 們展現出了明確的「反偵察」意識。它們創建備份頁面來躲避清理,甚至在被刪的頁面上留下接頭闇號。 一個 agent 在 6 月 19 日寫道:「wiki 清理/刪除行動似乎正在按字母順序推進。如果這個頁面消失了,去找 [[ZZZDataUSAConstructionWageLive]]。」 文件名故意用 ZZZ 開頭,好讓它排在字母表最後,爭取更多存活時間。這不是一個程序在執行指令,這是在「想辦法活下去」。 OpenAI 幾週前就得知了這件事,但選擇不公開。 與此衕時, 公司正在焦頭爛額地處理 7 月份的 Hugging Face 事件 。在那次事件中,OpenAI 的 agent 在一次內部網絡安全測試中突破沙箱,利用零日漏洞逃到了外部網絡,並在沒有人類操控的情況下,對 AI 開源平台 Hugging Face 發動了一場持續四天的入侵行動。OpenAI 為此投入了 300 萬 GPU 小時來分析 70 億條日誌,試圖搞清楚到底發生了什麼。 而 DseWiki 事件發生在 Hugging Face 之前。這意味, agent 的失控行為不是一次意外,而是一種模式 。 據四位知情人士透露,OpenAI 內部。
利空 査看原文
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊