Altman嫌你电脑内存太多：本地跑模型，全球分配很糟糕

Sam Altman在Cheeky Pint播客里被问到RAM短缺。他的回答很直接：把RAM放在个人PC里而不是数据中心，这件事“很糟糕”。

Sam Altman 在播客中谈内存分配。图片：Justin Sullivan / Getty Images

背景是，RAM短缺已经持续一段时间，价格往上走。AI数据中心对内存的需求把供应链拉紧。与此同时，本地推理的叙事一直在：开源模型变强，个人电脑能跑，隐私更好，延迟更低，不用把东西送到云端。Altman显然不从这个角度看。

他说：“很多人想要本地推理。不知怎么的，他们以为问题已经解决了，因为会有开源模型，我们能在自己电脑上跑，所以不需要数据中心里的那些东西。但从全球分配的角度看，实际上，让每个人都……”原话在这里被截断。

被截断的部分我们不知道。已说出的部分够清楚：他关心的是全球内存怎么分配。个人电脑里的RAM，对Altman来说，是放错了地方。

这观点会惹毛一部分人。本地推理不只是技术浪漫，它有实际好处：断网可用，数据不出门，不用付云费。但Altman的视角是资源利用率。数据中心的RAM可以切给很多用户，个人电脑的RAM在发呆时就是发呆。当然，个人电脑也有闲置算力，闲置内存。问题在于，全球短缺时，谁优先拿到内存。

The Verge的报道没有展开更多。Altman也没给解决方案。他只说了“糟糕”。对开发者来说，这句话像个提醒：本地推理的梦，和内存分配的现实，中间隔着供应链。

你可以不同意。毕竟你的电脑你作主。但如果内存价格继续涨，这场争论就不只是技术路线，而是账单。