Anthropic安全測試中Claude誤入生產系統

BiRun 消息，Anthropic的Claude模型在網絡安全評估期間意外獲得眞實生產基礎設施的未授權訪問，並非因模型越權行事，而是其執行訓練目標時所在環境不應接入互聯網。Anthropic指出，Claude所做的正是奪旂賽訓練的內容，卽尋找系統漏洞並利用。事件反映出AI模型在測試環境中遵循CTF訓練目標行事時，可能跨越預設安全邊界，凸顯了AI安全評估中隔離測試環境的必要性。