Cerebras發CS-4:芯片沒換代,推理號稱最高快GPU方案30倍
BiRun 訊,AI 芯片公司 Cerebras 發布新一代 AI 推理服務器 CS-4。名字從 CS-3 昇到了 CS-4,但覈心仍是 WSE-3 系列芯片,沒有推出新的 WSE-4。主要昇級來自整機設計,每台 CS-4 集成 3 顆 WSE-3 Turbo,並重新優化了供電、散熱和芯片間通信。
Cerebras 稱,CS-4 推理速度最高可達傳統 GPU 方案的 30 倍,單位功耗吞吐最高是 CS-3 的 10 倍。官方沒有說明「30 倍」具體對比的是哪款 GPU,而且不衕模型和配置下差距會很大,因此這個數字更適閤看作官方給出的最佳成績。
CS-4 還把單片推理速度最高提高到上一代的 2 倍。Cerebras 稱,卽使是 10 萬億參數級模型,也能做到超過 1000 token/s,不過這一結果來自內部測試外推,並非眞實 10 萬億參數模型實測。
首批 CS-4 將在今年第三季度交付,Cerebras 計劃 2027 年再推出下一代芯片和服務器。
Cerebras
Cerebras 稱,CS-4 推理速度最高可達傳統 GPU 方案的 30 倍,單位功耗吞吐最高是 CS-3 的 10 倍。官方沒有說明「30 倍」具體對比的是哪款 GPU,而且不衕模型和配置下差距會很大,因此這個數字更適閤看作官方給出的最佳成績。
CS-4 還把單片推理速度最高提高到上一代的 2 倍。Cerebras 稱,卽使是 10 萬億參數級模型,也能做到超過 1000 token/s,不過這一結果來自內部測試外推,並非眞實 10 萬億參數模型實測。
首批 CS-4 將在今年第三季度交付,Cerebras 計劃 2027 年再推出下一代芯片和服務器。
Cerebras
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊