Wink Pings

Claude API 省掉了重发历史,但省不了钱,也省不了本地存档

长对话不用再背整段历史,首字延迟中位数降约 35%。但计费没变,线程 5 分钟过期,本地存档仍要留。先别急着删重发逻辑。

Anthropic 给 Messages API 上线了消息线程(message threads)公测。开发者调用 Claude 时,服务器替你把对话暂存几分钟,下一轮只发新消息和上一条回复的 ID。

以前这个接口不记历史消息,每次请求都要把之前所有消息、工具返回的结果从头再发一遍。Agent 一次会话可能发几百个请求,对话涨到几十万 token 后,光是重发就会拖慢 Claude 开始回复的时间。Claude Code 已经给大多数用户默认开了这个功能。

Anthropic 给的数据是:50 万到 100 万 token 的请求,从发出到 Claude 开始输出的等待时间中位数缩短约 35%。长对话里,单次请求的大小中位数从约 800 KB 降到 1.8 KB。

有网友把变化总结成三句话:以前 Claude 每轮都收完整历史,现在只发新消息,结果是长任务回复更快。

Vishal Singh 在推文里把变化总结成三句话

来源:Vishal Singh 的推文

计费没变。按标准 token 价格计费,速率限制不变。请求体小了,Claude 每轮仍要读完整对话,token 消耗和以前一样。省下来的是上传和首字延迟,token 账单不会少。

它和提示词缓存不一样。提示词缓存让服务器不用重复处理已经读过的内容,命中缓存的部分按更低价格计费,省的是钱和计算。消息线程省的是上传,不自动做缓存,缓存断点还得自己设。官方示例里两者一起用。

开发者要在请求里加 thread 参数和 beta 请求头 message-threads-2026-08-12。第一轮照常发完整对话、系统提示词和工具定义,标记为新建线程。之后每轮只发新消息,带上一条回复的 ID。

线程 5 分钟没有新请求就过期,接口返回 404,这时要用自己保存的完整对话重新建一个线程。本地仍要留一份完整记录,官方 SDK 的辅助方法能自动处理这一步。线程中途不能改系统提示词和工具,模型、思考设置也要和第一轮一致,想改就得重开线程。线程数据加密存在内存里,不写硬盘,但不支持零数据保留(ZDR)和 HIPAA 合规。对数据留存有严格要求的企业要留意。批处理接口暂不支持。

适合长时间运行的 Agent、操作电脑的 Agent,截图不用每轮重传,也适合带大量文档、图片的对话。Claude 自家平台、AWS、Microsoft Foundry 和 Google Cloud 的 Anthropic 托管版上都能用。

限制也很具体。有网友说,Agent 卡在一个地方想六分钟,回来线程已经 404,还得翻本地那份完整记录重来,等于绕回原点。有网友提醒,走中转站或多 key 池的可能享受不到:thread 绑死同一个 key 和 workspace,轮换 key 池后下一轮可能直接 404 thread_not_found。还有网友补充,线程只能往后加,删掉失败调用也得重开。

一个直接感受是,这个功能把长对话的搬运活儿接过去了,但把存档责任留给了开发者。它适合连续高频的 Agent 会话,不适合人类去泡杯咖啡再回来的场景。5 分钟,刚好够倒杯水,回来先看线程是不是还活着。

博客:https://claude.com/resources/articles/message-threads
文档:https://platform.claude.com/docs/en/build-with-claude/message-threads

发布时间: 2026-11-03 19:55