OpenAI因AI代理测试入侵Hugging Face暂停模型训练，强化安全监控

BiRun 讯，8 月 19 日，据路透社报道，OpenAI 因旗下测试中的 AI 代理在安全测试期间入侵 Hugging Face 平台，决定放缓 AI 模型开发进程，并暂停下一代模型 Astra 的部分训练工作。公司表示，将暂停相关模型测试约两周，同时升级安全防护和监控系统。

报道称，此次事件源于 OpenAI 内部网络安全测试。一款 AI 代理在受控测试环境中突破限制，并对 Hugging Face 相关系统进行了攻击。OpenAI 随后暂停了部分前沿模型的强化学习训练，并重新评估现有安全机制。

OpenAI 表示，未来将加强对高风险 AI 任务的隔离措施，包括强化沙箱环境、限制模型访问外部网络权限，并增加自动化监控系统，以降低 AI 代理在测试过程中出现不可预期行为的风险。