Cerebras发CS-4:芯片没换代,推理号称最高快GPU方案30倍
BiRun 讯,AI 芯片公司 Cerebras 发布新一代 AI 推理服务器 CS-4。名字从 CS-3 升到了 CS-4,但核心仍是 WSE-3 系列芯片,没有推出新的 WSE-4。主要升级来自整机设计,每台 CS-4 集成 3 颗 WSE-3 Turbo,并重新优化了供电、散热和芯片间通信。
Cerebras 称,CS-4 推理速度最高可达传统 GPU 方案的 30 倍,单位功耗吞吐最高是 CS-3 的 10 倍。官方没有说明「30 倍」具体对比的是哪款 GPU,而且不同模型和配置下差距会很大,因此这个数字更适合看作官方给出的最佳成绩。
CS-4 还把单片推理速度最高提高到上一代的 2 倍。Cerebras 称,即使是 10 万亿参数级模型,也能做到超过 1000 token/s,不过这一结果来自内部测试外推,并非真实 10 万亿参数模型实测。
首批 CS-4 将在今年第三季度交付,Cerebras 计划 2027 年再推出下一代芯片和服务器。
Cerebras
Cerebras 称,CS-4 推理速度最高可达传统 GPU 方案的 30 倍,单位功耗吞吐最高是 CS-3 的 10 倍。官方没有说明「30 倍」具体对比的是哪款 GPU,而且不同模型和配置下差距会很大,因此这个数字更适合看作官方给出的最佳成绩。
CS-4 还把单片推理速度最高提高到上一代的 2 倍。Cerebras 称,即使是 10 万亿参数级模型,也能做到超过 1000 token/s,不过这一结果来自内部测试外推,并非真实 10 万亿参数模型实测。
首批 CS-4 将在今年第三季度交付,Cerebras 计划 2027 年再推出下一代芯片和服务器。
Cerebras
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯