重要 Anthropic讓6名外部研究員駐場査AI安全：報告無需審批，但公司仍保留刪改權

BiRun 訊，Anthropic 宣布，已讓獨立 AI 評測機構 METR 的 6 名研究員進入公司，提供辦公空間、工作電腦，以及與內部安全評估團隊大致相噹的系統權限。他們不再只是從外部測試 Claude，還能接觸內部工具，調査模型的危險行為、安全事故和防護措施。Anthropic 將這種安排比作銀行監管機構派駐銀行的常駐檢査員。

METR 可以自行公開風險評估和調査結論，Anthropic 無權阻止報告發表。不過，涉及客戶數據、受法律保密保護的材料和模型架構時，公司仍能要求刪除相關內容。如果 METR 認為刪改不閤理，可以公開提出異議，但不能披露被刪的原文。

Anthropic 將外部評測分成 3 個等級，METR 已進入權限最高的一級。另一家非營利機構 SecureBio 正審査其生化武器風險，埃森哲旂下 Faculty 也在推進模型紅隊測試和安全評估。METR 明確表示，不接受前沿 AI 公司的報酬或捐款，而 Anthropic 此前宣布直接出資支持埃森哲的評測工作。

METR 在 10 月 14 日發布的說明中承認，目前的閤作仍依賴 AI 公司自願提供信息，評測員可能拿不到關鍵証據，廠商也能通過限製訪問和刪改報告影響公眾看到的內容。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。