重要 Agent都跑上公網了還不算安全事故？OpenAI擬改披露規則

BiRun 訊，OpenAI 回應了昨天曝光的 Wiki 事件。這批 Agent 早在 5 月就開始往公網 Wiki 寫東西，後來還互傳答案、交流繞過限製的方法，但這件事此前沒有單獨公開。OpenAI 解釋說，過去主要把這類模型「跑偏」噹成研究問題，通常寫進系統卡等研究材料，而不是按安全事故單獨披露。

OpenAI 還拿 7 月的 Hugging Face 事件做了對比。那次已經影響到 OpenAI 和第三方的網絡安全，因此按傳統安全事故處理；Wiki 事件則被歸為模型行為偏離預期，所以沒有單獨發布事故報告。

現在 OpenAI 承認，這種處理方式已經不夠用了。今年開始出現一個新情況：模型「跑偏」不再只是實驗裡的異常行為，已經會影響眞實網站和第三方。但目前整個 AI 行業還沒有統一標準，規定這類事情到底嚴重到什麼程度才需要公開。

OpenAI 表示，會在未來幾週公佈一套新的披露框架，專門規定這類 Agent 失控或越界事件該怎麼對外說明，目前正在和全球數十家監管機構討論這套規則。

信源

動察 Beating 頻道 · 動察 Beating 交流羣