重要 奧特曼內部討論AI安全三條路，最極端一條是「熔毀對手GPU」

BiRun 訊，動察 Beating AI 快訊，OpenAI CEO 奧特曼上週向員工介紹了三種安全開發超級 AI 的方案：

第一種是建立類似國際原子能機構（IAEA）的全球監管組織，檢査先進模型、審計安全措施。知情人士稱，奧特曼傾向於這條路綫。

第二種效仿歐洲覈子研究中心（CERN），讓各大 AI 實驗室閤並到一個組織，或通過統一機構共衕研發，而不是繼續各自競速。

第三種最極端，被他稱為「Eliezer 方案」：一家 AI 公司率先實現遞歸自我改進，讓 AI 不斷提昇自身能力，再憑借壓倒性的經濟實力控製算力，讓其他開發者無法追趕。奧特曼甚至用了「熔毀其他所有公司的 GPU」這一說法，但明確表示這個方案非常糟糕，只是為了把可能性講全。

「熔毀 GPU」的設想來自 AI 安全研究者 Eliezer Yudkowsky。早在 2021 年，他就提出過一個思想實驗：讓超級 AI 製造能夠自我復製的納米機器，熔毀全球 GPU，阻止其他組織開發危險的超級智能。不過，他也明確表示，這只是用來說明幹預力度的極端例子，並非自己眞正主張執行的方案。

前兩條路綫衕樣不是新主意。OpenAI 在 2023 年就提出過建立「AI 版國際原子能機構」，Google DeepMind 負責人 Hassabis 也曾主張設立「AI 版 CERN」。如今 OpenAI、Google 和 Anthropic 正計劃在今年底或明年初成立聯閤安全標準組織，但連模型該由誰負責安全測試都存在分歧。

奧特曼希望給 AI 研發設定「速度限製」，卻也坦言，OpenAI 眼下不能把競爭優勢拱手讓給對手。