Wink Pings

都说开源模型托管能印钱,有人算完账发现H200回不了本

Yingjun Wu对DeepSeek V4.1 Flash做了一次托管成本测算:H200即使100%利用率也覆盖不了租金,B300大约35%利用率才能打平。结论是能赚钱,但一点都不简单。

开源模型托管是不是一门好生意,一直有两种声音。一种说权重免费、按token收钱,毛利高得吓人;另一种说算力成本摆在那,跑起来才知道谁在裸泳。

Yingjun Wu最近把DeepSeek V4.1 Flash的账算了一遍,结论不太乐观。按他的测算,用H200托管这个模型,即使把利用率拉到100%,收入也覆盖不了GPU的租金。换到B300,盈亏平衡点大约在35%利用率。

这句话拆开看:H200上不是赚多赚少的问题,是结构性亏损。B300上好一些,但前提是你能稳定跑到三成以上的利用率。闲置的卡在烧钱,这个道理做推理服务的人都懂。

需要补一点背景。DeepSeek V4.1 Flash是DeepSeek开源模型线里的轻量版本,主打推理成本低。H200和B300都是英伟达的数据中心GPU,前者是Hopper架构的主力,后者是Blackwell Ultra一代。租这些卡的价格不便宜,按小时计费,跑满和闲置是两个世界。

所以“托管开源模型印钞”这个说法,吴英骏的回应是:Profitable, yes. Simple, no. 能赚钱,但不简单。

这里面有几个变量容易被忽略。第一是模型的实际吞吐,V4.1 Flash虽然是Flash版本,但推理时的batch size、序列长度、并发数都会影响单卡产出。第二是定价,按token收费的价格战打得厉害,毛利空间被压缩。第三是利用率,生产环境里的流量有波峰波谷,凌晨三点的闲置算力不会自己变成钱。

吴英骏在推文最后问了一句:生产环境里其他人看到的是什么。这个问题比结论更有意思。同样一张卡,跑不同的模型、接不同的流量、定不同的价格,账本完全不一样。有人说能赚钱,大概率是真的;有人说回不了本,大概率也是真的。

区别在于,你有没有把闲置率、运维成本、折旧这些藏在水下的部分算进去。

原推文链接:Yingjun Wu on X

发布时间: 2026-11-03 21:34