智谱API用户逼近700万,已经用上超5万块国产AI芯片

BiRun 讯,智谱 API 用户已经接近 700 万,比 7 月初增加约 200 万,其中包括 2.3 万家企业客户。《晚点 LatePost》称,智谱已经启用超过 5 万块国产算力芯片,用来承接快速增长的推理需求。

增长主要来自 Coding。智谱今年 ARR 已增长 15 倍。开发者产品 ZCode 上线一个月,用户突破 100 万。即使 Kimi、阿里接连发布新模型,智谱的 API 用户和 ARR 增速也没有明显放缓。

算力因此成了瓶颈。智谱此前长期限制 Coding Plan 购买,7 月底重新开放后大幅涨价。公司同时在补推理效率,通过 KV 缓存优化、稀疏注意力和推理引擎改造,想办法让同样的算力跑出更多 token,降低长任务的推理成本。

晚点 LatePost
利多 矿业板块 查看原文
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯