Anthropic研究員辭職：OpenAI和Anthropic都在「拿命下注」，明年AI就可能失控

BiRun 訊，Anthropic 研究員 Jacob Coxon 宣布辭職，並準備離開 AI 行業。他過去三年先後在 OpenAI 和 Anthropic 做預訓練研究。他指出，兩家公司都沒有負責任地推進 AI，正競相打造能繼續提昇自身能力的超級智能，「拿我們的命下注」。

他今年從 OpenAI 轉投 Anthropic，本來就是因為後者更重視模型安全。Coxon 承認 Anthropic 的安全工作是認眞的，但認為只要各家公司還在搶着先做出 AGI（能在大量任務上超過人類的通用 AI），安全讓步就難以避免，單靠一家公司的自律解決不了問題。

他對兩家公司的評價是：OpenAI 內部很多人還沒有眞正意識到這種風險有多大；Anthropic 知道風險，卻認為別人靠不住，所以必須自己先做出來。

Coxon 稱，一些 AI 從業者俬下比公開表態悲觀得多，甚至擔心 AI 會在本十年結束前毀滅人類。他自己判斷，最激進的情形下，明年底 AI 就可能失控，因此這種決定不該只由幾家公司的工程師內部拍板。

信源

動察 Beating 頻道 · 動察 Beating 交流羣