把CPU编译进4B模型权重，大整数运算准确率拉到97.5%以上

推友 @alacheng 提到一个叫 Qwenputer 的项目，做法有点反直觉：把一颗 32 位 RISC-V CPU 编译进 Qwen3.5-4B 的权重里。CPU 不靠插件、工具或沙箱挂载，位置在模型前 11 个 Transformer 层。更关键的是，这些权重没有经过学习，每个权重由编译器计算出来。目标很明确，让模型内部做精确计算，减少传统 LLM 靠预测下一个 token 带来的随机误差。

普通 LLM 做算术容易错，原因不神秘：它按概率生成步骤，缺少确定性的执行单元。Qwenputer 换了条路，把 CPU 放进权重层里，让它按编译好的逻辑跑。

内存也来自模型自身。Qwen3.5 的 DeltaNet 层带有运行状态，Delta 规则可以一次精确覆盖其中一行，每行就当一个内存单元。CPU 把代码、数据、寄存器和程序计数器存进这些单元里，相当于用模型内部状态搭出一块 RAM。

在此基础上，项目还实现了 NPU，把矩阵乘、注意力等神经网络计算编译进 Transformer 权重，让一个大模型在自己内部精确执行另一个小模型，不依赖外部运行时。

基准测试每组 40 道题，使用贪心解码，比较基础版 Qwen3.5-4B、Qwenputer 和主机上的真实 Python 解释器。题目覆盖大整数乘法、除法、多步运算、加减。基础版 Qwen 的准确率在 55% 到 90% 之间，Qwenputer 提升到 97.5% 到 100%，接近甚至达到调用 Python 工具的水平。

项目作者是 x 上的 @divagr1925，代码在 GitHub：https://github.com/divagr18/qwenputer 。

这类项目容易被误读成模型内置解释器。从公开描述看，它更像在权重层里搭确定性执行路径，用门控状态承载内存。现在仍是探索项目，离通用计算还远。值得关注的是边界：哪些计算值得编译进权重，哪些交给外部工具更划算。推友 @alacheng 认为它的意义更多在 LLM 架构探索，让模型内部具备精确计算能力，同时不依赖外部环境程序调用。