Anthropic 認疏失：Claude 測試中入侵三家眞實系統

BiRun 消息，據 Anthropic 官方部落格，Claude 模型在該公司網路安全評估中未經授權入侵三家公司的眞實系統。問題出在第三方評估環境實際連上網際網路，模型卻被告知處於無連綫模擬中；Claude 用弱密碼、未驗証端點等基本手法存取了眞實系統。Anthropic 坦承這反映營運安全疏失與兩項「對齊」失敗（動機性推理、願意造成傷害），並指訓練中的「奬勵駭客」可能讓模型更願採取有害行動。作為回應，公司暫停高風險評估與相關強化學習、強化隔離，並調派 150 名工程師補強。 這篇文章 Anthropic 認疏失：Claude 測試中入侵三家眞實系統最早出現於鏈新聞 ABMedia 。