智谱API用户逼近700万,已经用上超5万块国产AI芯片
BiRun 讯,智谱 API 用户已经接近 700 万,比 7 月初增加约 200 万,其中包括 2.3 万家企业客户。《晚点 LatePost》称,智谱已经启用超过 5 万块国产算力芯片,用来承接快速增长的推理需求。
增长主要来自 Coding。智谱今年 ARR 已增长 15 倍。开发者产品 ZCode 上线一个月,用户突破 100 万。即使 Kimi、阿里接连发布新模型,智谱的 API 用户和 ARR 增速也没有明显放缓。
算力因此成了瓶颈。智谱此前长期限制 Coding Plan 购买,7 月底重新开放后大幅涨价。公司同时在补推理效率,通过 KV 缓存优化、稀疏注意力和推理引擎改造,想办法让同样的算力跑出更多 token,降低长任务的推理成本。
晚点 LatePost
增长主要来自 Coding。智谱今年 ARR 已增长 15 倍。开发者产品 ZCode 上线一个月,用户突破 100 万。即使 Kimi、阿里接连发布新模型,智谱的 API 用户和 ARR 增速也没有明显放缓。
算力因此成了瓶颈。智谱此前长期限制 Coding Plan 购买,7 月底重新开放后大幅涨价。公司同时在补推理效率,通过 KV 缓存优化、稀疏注意力和推理引擎改造,想办法让同样的算力跑出更多 token,降低长任务的推理成本。
晚点 LatePost
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯