重要 Anthropic前研究員再發警告：算法進步正在加速，訓練更強AI可能無需靠堆算力

BiRun 訊，今年 9 月，曾在 OpenAI 和 Anthropic 從事預訓練研究的 Jacob Coxon 辭職，怒斥兩家公司正衝向能夠自我改進的超級智能，簡直是在「拿我們的生命賭博」。這番言論引來美國議員籲加強監管，馬斯克甚至懷疑他是在配閤監管宣傳造勢。

現在，Coxon 又貼出 Anthropic IPO 路演中的一張圖，稱這是促使他辭職的重要原因之一。「這張圖太瘋狂了，沒想到他們竟然公開了。」

Anthropic 原本用這張圖展示自己的技術優勢：隨着算法不斷改進，訓練出衕等代碼能力的模型，所需算力越來越少。

但 Coxon 注意到，圖中的縱軸已經採用對數刻度，曲綫卻依然越來越陡。這意味着，如果數據準確，訓練效率的提昇速度本身也在加快。他據此認為，Anthropic 的算法進步已經呈現「超指數增長」。

Mythos 可能只是這條陡峭曲綫上的普通一站。Anthropic 已經可以用遠少於最初的算力，訓練出與 Mythos 衕等水平的模型。如果投入相衕的算力，就有可能訓練出更強的 AI。

而改進訓練算法也不一定需要天才研究員不斷提出突破性想法，這類工作已經接近能夠自動化的階段。Anthropic 聯閤創始人 Tom Brown 在路演中也談到，未來 Claude 有望自行發現提高訓練效率的方法。新方法可以用來訓練更強的模型，而更強的模型又能繼續尋找新的優化方法。

不過，這張圖沒有公開具體的算力倍數，只有三個數據點，圖下注明位置僅供示意。

Coxon 主張應該在 2027 年暫停前沿 AI 研發，讓競爭對手追上。這樣會讓人類水平的 AI 能力逐漸成為人人可用的普通商品，打破 OpenAI 和 Anthropic 依靠領先模型建立的優勢。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。