SemiAnalysis:谷歌TPUv7在AI智能體推理測試中領先英偉達GB300,單位成本優勢凸顯

半導體研究機構SemiAnalysis於北京時間10月16日08:30披露,谷歌首次向其AgentX智能體推理基準測試提交TPUv7(Ironwood)測試結果。在相關測試條件下,TPUv7的單位成本推理性能達到英偉達GB300 NVL72 FP4的1.42倍,以及AMD MI355X的2.5倍。SemiAnalysis稱,卽使採用面向谷歌外部客戶的成本口徑,TPUv7仍保持領先。此次測試採用FP8精度,重點衡量AI智能體多輪、長上下文推理任務的吞吐量與成本表現。結果顯示,谷歌正通過開放TPU軟件生態,推動自研AI芯片進入更廣氾的外部推理市場。
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊