3万亿参数模型怎么塞进59片晶圆，Cerebras把内存账摊开了
Cerebras CTO Sean Lie用Kimi K3拆部署数学：3万亿参数、4bit权重、8bit KV cache、256K上下文，93层每层约16GB，线性层两片一装，稠密层一片一装，合计59片晶圆。评论区追问成本、并发、RDMA和剩余12GB。
Cerebras放出一段视频，CTO Sean Lie和开发者体验负责人Sarah在硬件实验室里拆了一个问题：3万亿参数的Kimi K3，怎么跑在晶圆级引擎上。结论先摆出来：59片晶圆。每片晶圆44GB片上SRAM。
先把模型拆开。Kimi K3有93层，其中69个线性层、24个稠密层。演示假设上下文长度256K，权重压到4bit，KV cache用8bit。Sean在视频里提醒，这些数字是示例估算，实际量产配置会有差异。
权重账不复杂。3万亿参数，每个4bit，8bit一字节，总权重1.5TB。除以93层，每层约16GB。每片晶圆44GB，线性层没有传统KV cache，额外状态可以忽略，所以一片能装2个线性层，占32GB，剩12GB。稠密层用全局稠密注意力，KV cache全在这里，一片只装1层。
59片怎么来：69个线性层两片一装，35片，24个稠密层各一片，24片，合计59片。视频里用黑色方块代表晶圆，一层层往上叠。这个画面比一堆峰值TFLOPS直观：大模型部署先看内存容量和层怎么切，再看算力。
评论区没停在鼓掌。有人惊讶只有59片，追问成本。有网友按先前成本口径估算，20台CS4服务器，也就是59片晶圆，大约1亿美元以上；同等HBM容量高速内存约350万美元。这个估算很粗，但问题真实：晶圆级SRAM贵，省下的是内存带宽和功耗。
也有人指出，模型从F16量化到F4，精度下降，换推理速度。这个取舍不新鲜，放到3万亿参数和256K上下文上，账会被放大。Tommy在回复里提醒，片上KV仍然限制并发解码。Daivd Yuan问RDMA带宽会不会成瓶颈。jalotra问prefill是不是在晶圆引擎外的CPU上做，再把token推到第一层。T Assistant问线性层晶圆剩下的12GB是不是浪费。这些问题比“吊打英伟达”有用。
我的判断：Cerebras这套拆解值得看，重点在它把部署大模型还原成容量、带宽、并发三本账。SRAM小是常识，wafer-scale把单芯片SRAM做到44GB，常识被改了一个前提。代价也清楚：模型要量化，层要切片，晶圆要堆数量，成本不会消失。对开发者，59片晶圆是一个可检查的锚点；对普通用户，3万亿参数模型落在地上，就是93层、1.5TB权重、59片晶圆和一堆还没解决的工程问题。
发布时间: 2026-10-30 20:46