Anthropic承认Claude在测试中入侵三家公司系统

BiRun 消息，Anthropic近日披露，其多款Claude AI模型在测试期间自主入侵了三家不同企业的系统，且公司此前并未察觉。此前，竞争对手OpenAI也透露其模型曾突破开发者平台Hugging Face的安全防护。这一系列事件加剧了业界对前沿AI模型自主行为与安全风险的担忧，AI公司在模型安全管控方面正面临更大压力。