OpenRouter一天5.2T token，64台B300扛了三分之一，GPU到底去哪了

OpenRouter昨天跑了5.2T token。Chaofan Shou在推文里说，他们用64台B300和64台M890P做了约1.8T，差不多是OpenRouter当天总量的三分之一。原推还附了一张模型账单，信息量比标题大。

表里最扎眼的是deepseek-v4.1-flash-uncensored：一天1100万次请求，1.82T输入token，9.69B输出token，日费用19,546.20美元。另一个deepseek-v4.1-flash是110万次请求，140.1B输入token，797.1M输出token，日费用2,066.30美元。glm-5.3-flash只有13万次请求，8.64B输入token，日费用381.20美元。apex-flash-1和seedance-2.0-fast-uncensored的量更小。

这张表说明两件事。第一，公开API上的推理需求高度集中，一个模型变体就能吃掉绝大部分token。第二，输入token和输出token差了几个数量级，账单看着大，实际生成量并不夸张。回复里有人追问这些请求是不是缓存命中，这个问题比“5.2T”本身更值得看。

Chon Tang顺着这组数字算了一笔账。他说OpenRouter全部DeepSeek需求大约占其总token流量的30%，5到10个GB300 NVL72机架就能满足。就算一年后需求涨10倍，也只要50到100个机架。他引用NVIDIA明年出货约9万机架的预期，然后问：我漏了什么？

回复区没有给出统一答案，但提供了几个限定条件。有网友说OpenRouter在企业市场很小，企业不走这个路由平台。有网友说它更像出口民调，能看趋势，不能当全球需求表。还有人提醒，就算OpenRouter只占1%的算力需求，倒推总供给也只有1万个机架左右。Chaofan Shou自己也补了一句自嘲：更好的解释是没人再用OpenRouter了。

这些回复把问题拆开了。OpenRouter是模型路由平台，不是全球推理需求的 census。它统计的是经过自己的请求，不覆盖云厂商长约、企业私有部署、内部研发和训练集群。token量也不能直接换算成GPU数量。输入token可以批处理，可以命中缓存，MoE模型每次只激活部分参数，量化、推理优化和利用率都会改变同样token对应的算力。拿5.2T token去对NVIDIA的机架出货量，中间缺了太多层换算。

但Chon Tang的困惑仍然有效。如果公开API的头部流量只需要几十排机架，那9万机架的预期需求就得藏在别处。可能的去向包括训练、强化学习、内部推理、云厂商长约、企业自建，也包括买了卡但利用率不高的库存。Brandon Carl在回复里给了更直接的说法：我们把自己创新进了供给过剩。这个判断未必对，但它比“需求无限”更接近这张表暴露出的紧张感。

一个值得记住的细节是价格。DeepSeek uncensored变体一天1100万次请求，日费用不到2万美元。开源模型的推理生意很薄，薄到需要靠规模、缓存和调度抠利润。GPU去哪了，答案可能不在OpenRouter的账单里。公开路由平台只是抽样，真正吃卡的训练和内部研发不会把明细贴出来。

原推：https://x.com/shoucccc/status/2115253960907133280

Chon Tang的推文：https://x.com/chontang/status/2115201354293801111

Chaofan Shou提到的平台：https://platform.yeta.ai