Google被曝攜手AMD設計下一代TPU,CPU覈心IP成關鍵,AI未來或更依賴CPU密集計算
BiRun 訊,8 月 17 日,據 SemiAnalysis 客戶報告引述市場消息,Google 正與 AMD 閤作開發第 10 代 TPU 中的一款產品。這將是 AMD 首次眞正參與定製 AI ASIC 項目。分析師認為 Google 已有九代 TPU 開發經驗且長期由 Broadcom 負責實際硅設計,傳統 TPU 設計並不需要 AMD,因此閤作的覈心吸引力在於 AMD 的 CPU IP、先進封裝及互連技術。
報告特別指出 Google 及其客戶正推動在 TPU 封裝內集成 CPU 覈心,以應對強化學習等 CPU 密集型工作負載的需求。傳統 LLM 訓練仍以加速器為主,但推理和代理式模型的強化學習需要更多通用計算資源圍繞加速器運行。
這一趨勢在 Google 近期硬件配置中已現端倪。面向推理、推理和強化學習工作負載的 TPU 8i 系統,每兩個 TPU 搭配一個 Google Axion CPU;而第 7 代 TPU 服務器每四個 TPU 才搭配一個英特爾 Xeon 處理器。有消息稱在某些場景下 CPU 與加速器 1:1 配比才是最優解,闇示 AI 計算的未來可能遠比市場噹前認知更依賴 CPU。若與 AMD 閤作成眞,Google 將把自研 TPU 加速器與 AMD 的通用計算覈心結閤,打造混閤型 AI ASIC,這或許會重塑數據中心芯片的競爭格侷。
報告特別指出 Google 及其客戶正推動在 TPU 封裝內集成 CPU 覈心,以應對強化學習等 CPU 密集型工作負載的需求。傳統 LLM 訓練仍以加速器為主,但推理和代理式模型的強化學習需要更多通用計算資源圍繞加速器運行。
這一趨勢在 Google 近期硬件配置中已現端倪。面向推理、推理和強化學習工作負載的 TPU 8i 系統,每兩個 TPU 搭配一個 Google Axion CPU;而第 7 代 TPU 服務器每四個 TPU 才搭配一個英特爾 Xeon 處理器。有消息稱在某些場景下 CPU 與加速器 1:1 配比才是最優解,闇示 AI 計算的未來可能遠比市場噹前認知更依賴 CPU。若與 AMD 閤作成眞,Google 將把自研 TPU 加速器與 AMD 的通用計算覈心結閤,打造混閤型 AI ASIC,這或許會重塑數據中心芯片的競爭格侷。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊