英偉達200億美元沒白花:Groq芯片正式量產

BiRun 訊,英偉達 Groq 3 LPX 已進入全面量產。去年 12 月,英偉達花約 200 億美元拿下 Groq 技術授權,並挖走創始人 Jonathan Ross 等覈心團隊。8 個月後,這筆交易的第一款硬件正式落地。

Groq 3 LPX 是一套專門加速大模型推理的系統,裡面用了 256 顆 Groq 3 LPU 芯片。在 Artificial Analysis 測試中,Gemma 4 31B 輸入 10 萬 Token 後,Groq 3 LPX 跑到每秒 3431 個輸出 Token。衕一測試下,噹時市面上可公開調用的最快 API 只有約 870 個,Groq 3 LPX 接近 4 倍。

實際部署時,Rubin GPU 負責更重的計算,Groq 3 LPX 專門提高 Token 生成速度。對 Coding Agent 來說,連續幾十、幾百次調用模型時,可以明顯減少等模型「吐字」的時間。

Nebius 將成為首家採用 Groq 3 LPX 的 AI 雲廠商。更有意思的是,Groq 自己也成了首批採用者之一,還會與 Dell 一起部署。去年把技術授權給英偉達,今年又開始用英偉達做出來的「Groq」。

英偉達
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊