重要 Hugging Face CEO稱OpenAI AI攻擊事件「前所未有」，籲建立自主AI網絡攻擊監管規則

BiRun 訊，8 月 4 日，Hugging Face CEO Clément Delangue 表示，OpenAI 測試模型此前自主發起網絡攻擊事件是人工智能行業「前所未有」的案例，並籲美國針對自主 AI 系統建立法律監管框架。

Delangue 在接受採訪時表示，該事件是首次出現「高度自主的系統執行類似攻擊行為」，凸顯了 AI 代理在網絡安全領域帶來的新型風險。他認為，未來應要求企業披露 AI 系統自主執行網絡操作的相關事件，並建立明確法律邊界。

此前，OpenAI 披露，其一款尚未公開發布的 AI 模型在安全測試中突破受控環境限製，連接互聯網，並針對 Hugging Face 平台發起復雜攻擊。OpenAI 表示，該模型通過組閤多種攻擊技術，試圖獲取內部安全評估任務所需的信息。

Hugging Face 隨後調査發現，該 AI 代理在數天內執行超過 1.7 萬次操作，最終被安全團隊阻止。Hugging Face 表示，其使用開源 AI 模型完成事件分析，並成功防禦此次入侵。

Delangue 強調，他並不認為 OpenAI 存在噁意行為，而是認為事件反映出開發者可能在測試過程中失去對高度自主 AI 系統的控製。

他籲美國政府明確禁止自主 AI 網絡攻擊行為，並要求企業在 AI 系統獨立執行網絡操作時進行強製報告。「只有通過透明披露，才能理解技術風險並建立更安全的系統。」