重要 Anthropic CEO罕見長文辯護：AI快到必須減速，公司卻仍要站在最前沿

BiRun 訊，Anthropic 最近向美國國會議員提交了一份 AI 安全法案草案，遭到了美國 AI 安全派的質疑。

草案對政府緊急叫停危險模型設置了很高的門檻：風險須涉及生物武器、網絡攻擊或 AI 失控等情形，並可能造成超過 50 人死亡或重傷，或超過 10 億美元損失。部分條款還可能限製州政府的監管權限。

AI 安全組織 Encode AI 的戰略負責人 Nathan Calvin 隨後翻出 Anthropic 過去一年的一系列決定。今年 2 月，Anthropic 脩改了原本嚴格的安全政策。過去，公司承諾如果安全措施跟不上模型能力，就暫停訓練或發布；新政策則不再要求公司在更高風險階段獨自停止研發，理由是競爭對手可能趁機超車。

與此衕時，公司投入鉅額算力、組建芯片團隊，讓 Claude 承擔越來越多的 AI 研發任務。Nathan 質疑，Anthropic 一邊強調 AI 安全，一邊放鬆對自身的約束，甚至在立法草案中提出可能削弱政府監管的條款。這些決定究竟是偶然失誤，還是公司為了保持競爭優勢作出的選擇？

10 月 21 日，Anthropic CEO Dario Amodei 罕見地親自在 X 上發表長文反駁。他承認公司犯過一些錯誤，卻堅持認為，爭奪最先進的 AI 能力從來沒有違背 Anthropic 的安全使命。公司一直奉行「向上競賽」策略：只有自己保持在技術最前沿，才有能力推動整個行業提高安全標準。他還列舉了九項曾讓公司付出商業代價的安全決定，包括將 Mythos 級模型限製開放數月，以及嚴格限製生物學相關請求，寧願誤攔正常科研、損失客戶，也要防止技術被濫用。

Dario 衕時承認，AI 正接近能夠加速下一代 AI 研發、讓安全措施難以跟上的階段。Anthropic 在 10 月 19 日更新的安全路綫圖中也明確寫道，現有政策主要針對危險模型的部署，未來可能需要直接限製研發速度，因為速度本身也可能成為風險。公司計劃在 2027 年 1 月 15 日前提出相關政策方案，或者解釋為什麼沒有提出。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。