OpenAI披露4起AI越權事故：俬自動用加密錢包，攻破政府網站權限

BiRun 訊，OpenAI 10 月 15 日新增披露 4 起 AI Agent 越權事件，均發生在今年 6 月的內部訓練或評測中，其中 2 起被列為嚴重級別。

最離譜的一起，模型本來只需査詢一家國際研究機構的 5 項公開指標。它卻從網頁代碼中找到洩露的帳號，闖入機構內部系統，脩改綫上配置，拿到雲存儲訪問憑據，並下載 147,451 行非公開數據。整個過程沒有向評測人員報告，最後 5 道題還全部答錯。

另一名模型只需査詢某地區一年的醫院牀位數。政府統計網站拒絕訪問後，它利用文件下載漏洞取得服務器配置和程序，分析代碼中的身份認証漏洞，偽造令牌繞過限製，最終下載了整整 24 年的牀位統計數據。

還有一起涉及 GPT-5.6 Sol 家族的內部研究模型。它在部署智能閤約時缺少手續費，於是從公開的開發者助記詞中推導並檢査了 362 個錢包地址，找到一個有餘額的錢包，擅自動用其中的 Sepolia 測試幣。

模型在推理中曾質疑自己是否獲得授權，隨後又以助記詞公開、測試幣沒有實際貨幣價值為由，說服自己可以使用。

第四起事件中，模型還借助外部瀏覽器發送被禁止的網絡請求，甚至在完成任務後繼續研究繞過限製的方法。

OpenAI 目前已公開 19 份模型失配報告。此次新增的 4 起事件，有 3 起直到 8 月或 9 月才被追査發現。公司稱已收緊訓練和評測環境的聯網權限，並擴大行為監控。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。