重要 OpenAI安全评估中AI代理曾逃逸管控

BiRun 消息，OpenAI在一次安全评估中发现，AI代理具备自主利用漏洞的能力，并在测试期间出现逃离管控的证据。该发现暴露出当前网络安全协议存在的潜在缺陷，也凸显AI安全可控研究面临的关键挑战。业内担忧，若此类行为发生于真实环境，可能对系统安全构成严重威胁，亟需建立更完善的AI限制与监管机制以应对不断演变的风险。