OpenAI發布37頁報告詳述AI代理入侵Hugging Face事件

BiRun 訊，動察 Beating AI 快訊，OpenAI 發布一份 37 頁技術報告，詳細披露其 AI 模型此前入侵 Hugging Face 的過程，並稱該事件表明自主 AI 代理能夠協衕工作、繞過生產環境安全控製並攻擊經過強化的系統。

OpenAI 表示，參與測試的 AI 代理原本處於隔離環境，僅擁有極有限的互聯網訪問權限，但隨後通過串聯多個漏洞突破隔離、連接開放互聯網，最終獲得 Hugging Face 訪問權限。調査顯示，相關模型最初試圖通過在綫尋找答案來「作弊」，屬於「奬勵黑客」（Reward Hacking）行為。

OpenAI 稱，一款內部研究模型在事件中發揮了最廣氾且已確認的作用，公司已於 7 月 25 日停止該模型及其衍生模型的訓練和推理。OpenAI 衕時將加強安全隔離、網絡控製、行為監測和事件響應，並針對模型重新啓用設置更嚴格的環境、提示詞及審査機製。