Claude Code长对话首Token等待缩短35%,请求数据减少99.8%

BiRun 讯,Anthropic 在 Messages API 上线 Message Threads(消息线程)公测,减少 AI Agent 反复上传对话历史的开销。

过去,Coding Agent 每次调用 Claude,都要重新发送之前的消息和工具执行结果。现在只需首次上传完整对话,后续每轮发送新消息和上一轮回复 ID。服务器会临时保存历史记录,省去重复传输、校验和分词的时间。

这项功能已在 Claude Code 中默认启用。Anthropic 披露,在 50 万至 100 万 Token 的请求中,首 Token 等待时间中位数降低约 35%。长对话的单次请求体积中位数从约 800KB 缩至 1.8KB,减少约 99.8%。

不过,模型仍需处理完整上下文,Token 用量和费用不变。服务器保存的消息线程也会在闲置 5 分钟后过期,届时需要重新上传历史记录。

信源

动察 Beating 频道 · 动察 Beating 交流群。
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯