AI自己研發更強AI,四年進步壓縮成一年:Dwarkesh預測超級智能最早明年出現
BiRun 訊,動察 Beating AI 快訊,知名 AI 播客主持人 Dwarkesh Patel 大幅提前了對超級智能的預測。幾個月前,他還不相信 AI 能進步得這麼快,如今卻認為,到 2030 年就可能出現超級智能,最快甚至是明年。
AI 最有可能在 2028 年左右追平頂尖人類 AI 研究員,最快幾個月內就能做到。一旦 AI 能自主研發更強的 AI,原本需要數年的技術進步,就可能壓縮到一年。
METR 最近調査 Anthropic 發現,其模型在部分可量化任務上的能力進步速度約為過去的兩倍,其中大部分加速很可能來自 AI 參與研發。Anthropic 自己的數據也顯示,今年 2 月,Claude 主導的研發工作還不到 1%,到了 8 月已達到 26%,但仍需要人類監督。
AI 研發中的許多工作都能通過實驗驗証。比如調整訓練算法、優化數據後,可以直接測試模型有沒有變強。AI 可以不斷提出方案、做實驗、檢査結果,再繼續改進。數學和編程領域已經出現過類似的能力躍昇,AI 研發可能也會如此。
一旦達到頂尖研究員水平,AI 還能全天候工作,衕時部署大量研究智能體。按 Dwarkesh 的估算,單個 AI 研究員每週完成的工作量可能是人類的 50 倍。不過,實驗仍要消耗算力,整體研發速度不會直接提高 50 倍。
如果 AI 研發實現自動化,之後可能出現兩種情況:
一種是 AI 不斷改進自身,短短幾個月就逼近現有芯片所能支持的能力極限;
另一種是先把三到六年的技術進步壓縮到一年,再因為算力和實驗資源不足而慢下來。
Dwarkesh 給這兩種情景各分配了 50% 的主觀概率。
目前,AI 還無法完全獨立完成前沿研發。找到正確的研究方向,也遠比解決有標準答案的題目復雜。如果這部分能力遲遲無法突破,時間表就可能推遲。Dwarkesh 認為,AI 到 2032 年以後才能追平頂尖人類 AI 研究員的可能性仍有 25%。
AI 最有可能在 2028 年左右追平頂尖人類 AI 研究員,最快幾個月內就能做到。一旦 AI 能自主研發更強的 AI,原本需要數年的技術進步,就可能壓縮到一年。
METR 最近調査 Anthropic 發現,其模型在部分可量化任務上的能力進步速度約為過去的兩倍,其中大部分加速很可能來自 AI 參與研發。Anthropic 自己的數據也顯示,今年 2 月,Claude 主導的研發工作還不到 1%,到了 8 月已達到 26%,但仍需要人類監督。
AI 研發中的許多工作都能通過實驗驗証。比如調整訓練算法、優化數據後,可以直接測試模型有沒有變強。AI 可以不斷提出方案、做實驗、檢査結果,再繼續改進。數學和編程領域已經出現過類似的能力躍昇,AI 研發可能也會如此。
一旦達到頂尖研究員水平,AI 還能全天候工作,衕時部署大量研究智能體。按 Dwarkesh 的估算,單個 AI 研究員每週完成的工作量可能是人類的 50 倍。不過,實驗仍要消耗算力,整體研發速度不會直接提高 50 倍。
如果 AI 研發實現自動化,之後可能出現兩種情況:
一種是 AI 不斷改進自身,短短幾個月就逼近現有芯片所能支持的能力極限;
另一種是先把三到六年的技術進步壓縮到一年,再因為算力和實驗資源不足而慢下來。
Dwarkesh 給這兩種情景各分配了 50% 的主觀概率。
目前,AI 還無法完全獨立完成前沿研發。找到正確的研究方向,也遠比解決有標準答案的題目復雜。如果這部分能力遲遲無法突破,時間表就可能推遲。Dwarkesh 認為,AI 到 2032 年以後才能追平頂尖人類 AI 研究員的可能性仍有 25%。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊