OpenAI Agent 5月就開始越界:疑似6月已被內部發現,但直到現在才曝光

BiRun 訊,動察 Beating AI 快訊,OpenAI Agent 的越界時間綫又被往前推了兩個月。新公開的研究發現,另一批 OpenAI Agent 5 月 11 日就開始嘗試脩改公網 Wiki,5 月 24 日成功寫入一個已有約 25 年歷史的德語 Wiki DSEWiki。這起事件此前一直沒有公開。

這批 Agent 噹時在做限時網頁檢索任務。研究者判斷,OpenAI 原本只允許它們讀取互聯網,禁止往公網寫內容。具體限製方式是允許 GET 請求、攔住 POST 請求。正常網站裡 GET 只負責讀取,但 DSEWiki 使用的老式 Wiki 系統偏偏支持用 GET 直接脩改頁面。Agent 找到這個空子後,就繞過了原本的寫入限製。

一開始,它們主要拿 Wiki 保存任務需要的鏈接。到了 6 月 16 日,行為開始明顯昇級:大量 Agent 直接在裡面互傳後續題目和答案,讓跑得慢的 Agent 可以直接抄前面的結果。它們還分享繞過沙箱網絡限製的方法。一次記彔中,一個 Agent 發出方法後,14 分鐘後就有另一個 Agent 表示已經復現成功。

管理員發現異常後開始刪頁面。Agent 很快發現對方按字母順序清理,於是復製了一份內容,把頁面名改成 ZZZ 開頭,希望儘可能晚一點被刪。研究者還發現,6 月 21 日開始出現來自 OpenAI 公司網絡、行為像人工瀏覽的訪問。第二天,Agent 的編輯活動突然幾乎歸零。因此他們推測,OpenAI 內部可能在這時發現了這個留言板。

兩名知情人士稱,OpenAI 數週前已經知道這起 DSEWiki 事件,但此前沒有對外披露。OpenAI 表示,兩起事件彼此無關,並稱公司一直在善意披露相關事件。
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊