Qwen 4.5 和 5 会继续变大,本地部署的人开始算显存
Qwen 官方公告里一句话被截了图:未来会继续往更大规模推,Qwen 4.5 和 Qwen 5 都在这个方向上。r/LocalLLaMA 的讨论从画质吐槽歪到小模型存亡,中间夹着 MoE、HBM 和几条被证伪的参数传闻。
Qwen 的公告里出现了这么一句:未来会继续往更大的规模推,Qwen 4.5 和 Qwen 5 都在这个方向上。
r/LocalLLaMA 用户 silenceimpaired 把这句话截了图发出来,标题是「好消息,坏消息」。图很糊,糊到评论区前半段几乎没人聊模型。

「这是 80 年代的录像带吗」「怎么才能拍出这么糊的图」「Enhance!」几条高赞全是 CSI 的梗。楼主自己下场接了一句:别嫉妒,我用了 CSI 的增强技术。还有人怀疑这是某人在现场拍手机屏幕、再把手机屏幕录下来传上网的二次转手产物。
笑完,话题回到参数。用户 taking_bullet 的说法很直接:GPU 一个月比一个月贵,他们还在推更大的模型,这有点疯。RIP Qwen 9B 和 35B MoE。
底下有人把希望放在别家:Liquid AI 的 LFM3、IBM 的 Granite 4.2、Spark X2.6,还有一直表现稳定的 Gemma 4,Google 也暗示过 Gemma 5 会来。也有人提了个更实用的思路,用 Qwen 4.x 去蒸馏那些更小的老模型。
关于「模型为什么非得变大」,disgruntledempanada 的解释是结构性的:要处理空间推理、要看全局,模型本身就得更大,大模型一瞬间能拿到的东西,27B 可能要算上几个小时还不一定算对。DasGamerlein 不完全同意:过去架构和训练方法带来的每参数提升也很大,如果这部分基本见顶了,整体进展会明显变慢。
fvancesco 从推理侧看问题:推理引擎在变好,只要激活参数压得低,规模大不等于推理成本高。
有人贴了张 Qwen 的模型矩阵图,说这不代表不会有 Flash 版本。g_rich 纠正了一个常见误解:Flash 不代表小,代表快。DeepSeek 和 GLM 的 Flash 模型轻松几百亿参数,往后还会更大。

Viktri1 觉得这跟算力限制有关:MoE 适合那种慢速内存很多、快速内存很少的公司。BassNet 在下面补了一段更硬核的纠正:自回归解码仍然要求所有权重待在 HBM 里,MoE 降低的是带宽需求,并不改变权重存放的位置;把权重放在内存里再往 GPU 流式送,批量解码基本走不通,prefill 阶段倒是可以。
sonicnerd14 的猜测更市侩一点:一部分原因是厂商想推 API,好从模型上开始挣钱,Qwen3 的 27B 已经证明不需要天量参数也能把活干完。
真正扎心的是那批显卡不够的人。「4B 和 8B 呢?我的穷笔记本到此为止了。」另一个用户 ainnurru 说自己一直在等 8B 以下的好模型,「看来得跟 Qwen 说再见了」。有人回:以后大概只能盯 Gemma。
LagOps91 相对乐观,最大的模型会继续涨,但他们历来也发小模型,27B 或更小大概率还有。KURD_1_STAN 直接举反例:3.6 里的 122B、9B、4B、0.8B 都没了,3.8 里 35B 没了,v4 的图里只剩 27B 和 Flash。LagOps91 回了一句:我说的是过去一直如此,和「大概率」,哪部分难懂。
Happy_Guitar3521 站在厂商那边:要竞争就得做大模型,跑不动可以选可信的第三方服务,价格还是比 Anthropic 和 OpenAI 便宜。只盯着 8B 能不能塞进 RTX 4050,开源权重的进展从哪里来。
中间还夹了一段 Anthropic 的参数传闻。有人说某个开放 S3 桶里躺着 Fable 的权重,总共约 8TB,暗示 4T 参数。jakubkonecki 和 vogelvogelvogelvogel 都指出早被证伪,就是随机权重;Caffdy 说那是个骗局,分片属于 DS 4.1。更夸张的 14T 参数、8TB 体积版本也被 More-Curious816 认定为假消息,不是泄漏也不是内部线报。levoniust 的反应挺真实:那我得多加内存,顺便觉得自己的 Claude 订阅没那么亏了。
最后有人提醒这是旧闻,一个月前第一次提 Qwen 4 的时候,官方就说过要往 10T 参数走。楼主承认,只是没见人重点提,所以自己补了一刀。
整串看下来,分歧跟要不要做大没什么关系。做是肯定要做的。分歧在于,那些只能在消费级显卡上跑模型的人,正在被这条参数曲线一点点甩出去,而公告里从来不会提他们。
发布时间: 2026-11-06 21:18