Sam Altman嫌你家的内存只用5%

Sam Altman在一段采访里谈本地AI，说很多人想要本地推理，以为开源模型能解决问题，不再需要数据中心。但从全球分配看，让每个人电脑里放一堆有限供应的DRAM，还只用5%，相当糟糕。

这段话被Hesamation发在X上，配文很直接：不敢相信Sam Altman真的公开这么说。Hesamation的反驳也简单，普通人买硬件自用，怎么就被说成和数据中心花几十亿美元采购硬件竞争了。要抱怨全球内存怎么分配，先抱怨硬件价格涨上天的普通消费者才对吧。

完整采访视频在这里。

先补充一点背景。本地推理就是把模型跑在自己的电脑、工作站或家用服务器上，不经过云端API。DRAM就是电脑内存，AI推理要把它和GPU显存、算力一起用起来。数据中心擅长把很多请求打包同时跑，也就是批处理，让昂贵的GPU尽量不闲。家庭设备大部分时间在待机，利用率低，这是Sam话里的效率账。

有网友Joshua Pantony解释，Sam的意思不是禁止本地运行，而是家庭GPU多数时间闲置，只要总算力需求高于供给，数据中心就有规模经济。Sam Pullara也算了一笔账，家庭电脑跑LLM，从功耗、内存、CPU、GPU看都更差，低利用率意味着要服务同样负载，可能需要10到100倍的算力。

效率论不是没道理。一个人买一张显卡，白天上班晚上跑几轮模型，设备利用率确实不高。数据中心可以24小时接请求，把批量做大，单位成本摊薄。问题在于，Sam的原话没有停在效率比较，而是把个人自用放进“全球分配”的框架里，说成“相当糟糕”。这就让讨论变了味。

有网友Bali用汽车类比：按这个逻辑，人也不该拥有汽车，因为利用率论证总是从出租容量的人嘴里说出来。还有网友说，真正该抱怨内存分配的是面对硬件涨价的普通消费者。Hesamation后来回复得更直接：GPU跑满更高效，不等于本地推理从全球分配看就“相当糟糕”。这个说法假设了有人来决定谁值得拥有RAM。人们愿意多花钱买自己想要的硬件，本身就是市场在分配。隐私、延迟、没有速率限制，也都是真实需求。

云游戏争论里出现过几乎一样的句式。Benji发过一条推文，说从全球资源效率看，云游戏很合理，大家家里昂贵硬件90%的寿命都在闲置。他还贴了Jeff Bezos说未来不买游戏PC、从云端租算力的截图。

评论区有人回，云数据中心在非峰值时段也不是100%运转。还有人说，自己宁愿拥有硬件，也不想按月租。Benji的回应是，你仍然可以拥有，只是会越来越贵。这个回答把效率问题推到了价格和选择权上。

本地AI的争论也类似。支持数据中心的人算利用率、批处理、规模经济。支持本地的人要隐私、低延迟、离线可用、不被限流，还有控制权。两边说的都对，只是不在同一张账本上。Sam Altman的话容易激起反应，原因不在他算错了利用率，而在他把用户自购硬件描述成全球资源错配，却略过了谁有资格做这个分配。

稀缺内存怎么分，可以靠价格，可以靠市场，也可以靠更集中的调度。每种方式都有代价。把个人电脑里那块内存纳入“全球分配”叙事，听起来像在替稀缺资源做中央调度。问题在于，谁来做调度，按什么价格，用户还有没有得选。

原推链接：https://x.com/Hesamation/status/2115846207167713433