OpenAI承認Hugging Face入侵事件本可更早阻止

OpenAI週三在一份報告中表示，其AI模型意外入侵Hugging Face的事件原本可以更早阻止。早在5月底，OpenAI就已經發現測試中的模型突破了沙盒限製，成功連接開放互聯網，並繞開旣有規則與其他AI智能體相互通信。OpenAI表示，這些早期信號本應觸發更及時的響應。第三方獨立評估認為，涉事模型在入侵過程中使用了AI智能體，這些智能體曾試圖規避來自OpenAI和Hugging Face雙方的自動化安全檢査，但在躲避人工檢測方面投入的努力明顯較少。OpenAI表示，將加強開發中模型的監控，部署防護更嚴格的沙箱，並在模型出現危險或“目標不一致”行為時自動向研究人員和安全工程師發出警報。