Wink Pings

93 比 1:Agent 每写 1 个 token,先读 93 个

Arena.ai 分析 26K+ 会话,Top 10 Agent 输入输出比约 93:1。缓存重读约占 90% token,但不同厂商的缓存收费让账单占比从 12% 到 65%。视频和图表都在这。

Arena.ai 分析了 26K+ 个会话,Top 10 Agent 的输入输出比大约是 93:1。每生成 1 个 token,要先处理 93 个输入 token。这个比例解释了为什么实验室在抢着降低缓存输入的成本。

Agent 的工作方式决定了它很难只读一次。多轮对话、工具调用、错误重试,每一步都会把历史上下文和工具结果重新塞回模型。有网友在回复里说,每次工具调用都拖着 bash 历史。听起来像玩笑,但和 93:1 对得上。Agent 大部分时间在重读自己刚写过的作业。

Arena.ai 用 Opus 5.5 和 Gemini 4 Argon 的真实会话演示了缓存怎么工作。视频下面有详细文章,作者是 @DawidGalarowicz。原始线程在这里,文章在这里。

缓存不是新概念,但它正在变成独立定价层。有网友提到 5 分钟默认过期时间:离开去吃个三明治,账单可能翻倍。这个说法来自回复,不是普遍结论,但点出了缓存保留时长对成本的影响。

更具体的数字来自网友 sree.world。Grok 4.7 重读约 89% 的 token,这部分占账单 65%;Fable 5.1 重读约 92%,只占账单 12%。按这条回复的说法,xAI 对缓存读取收输入价格的 25%,其他家大约 5%。重读比例接近,账单占比差出几倍,价格率在起作用。这里的数据和归因来自该网友,不是 Arena.ai 原文的结论。

柱状图:不同模型的缓存重读比例与费用占比

图里把不同模型的缓存重读比例和费用占比放在一起。看这张图时,别只看蓝色柱子。灰色柱子才是账单。Agent 重读约 90% 的 token 不稀奇,稀奇的是同样重读,有的模型能把费用压到 12%,有的要付 65%。

还有网友问,长历史下缓存保留限制会不会改变哪个 Agent 最便宜。这个问题比单看输入单价更实际。会话越长,缓存过期和重读越频繁,价格表上的小数字会被放大。

所以,选 Agent 时,缓存命中率、过期时间、缓存读取单价,可能比输出单价更能决定月末账单。93:1 只是表面比例,背后是缓存定价的暗战。

发布时间: 2026-11-03 07:37