单卡680 tokens/s的扩散模型,先别急着把它当替代品
DiffuSpace发布Clover-35B-A3B-Preview,35B总参数、3B激活,开放权重,单卡BF16跑到680 tokens/s。跑分和Agent Demo都摆出来了,但官方测试条件、单次运行和独立复现,才是接下来要看的。
Clover-35B-A3B-Preview发布了。DiffuSpace给它的标签很直接:首个开放权重生产扩散语言模型,35B总参数,3B激活,Apache 2.0,单卡BF16跑到680 tokens/s。
数字先放一边。扩散语言模型最常被问的,是除了论文图,在哪里跑。Clover这次把权重、推理后端和Demo一起放出来,至少这个问题有了可执行的答案。
自回归模型逐token往下写,扩散模型可以对一块token一起去噪。Clover用的是块扩散,官方把历史上下文压进GDN递归状态,当前块内用双向softmax注意力做细粒度交互,还加了可学习的块大小校准和右侧上下文的零初始化卷积分支。说人话:它想让块级并行去噪在长上下文里也能工作,同时保留生成速度。
官方给出的Agent跑分里,Clover在所列模型中六项最高:SWE-bench Verified 73.6,Terminal-Bench 2.1 51.7,τ³ Overall 65.3。通用能力上,GPQA Diamond 83.8,ZebraLogic 95.8,AA-LCR 72.0。对比对象包括同尺寸的Qwen3.6-35B-A3B,以及LLaDA2.2 flash、Mercury 2.5等扩散模型。

速度数据要看清条件。680 tokens/s是在单张NVIDIA GB300、BF16、batch size = 1、内部Agent场景数据上测的。官方还给了H200上的Agent任务数据:Clover 515 tokens/s,DFlash2方案365 tokens/s。它不是通用SLA,但能说明扩散架构在单请求Agent循环里的速度潜力。

速度在Agent里不是跑分装饰。Agent要连续做决策、执行、反馈、调整,每一步的延迟都会沿任务链累积。官方Demo里,同一个GitLab任务,相同Agent框架、提示词、工具和浏览器,Clover用13步、169.9秒完成创建私有项目并邀请成员,Qwen3.6 Flash用21步、392.3秒。
另一个Demo是路径规划。用户要从匹兹堡CMU开车去最近的Wendy's,地图搜索没有位置信号,直接搜店名会跳到缅因州。Clover识别结果偏离目标,逐步加城市、街区、邮编改写检索,页面卡住后重置重填,最后找到2.0公里、约3分钟车程的门店。官方记录里,Clover用28步、169.9秒完成,Qwen3.6 Flash用满30步、578.3秒,仍停在347公里外的门店。
这类Demo样本不大,官方也写明一次运行、不重试。它能展示行为,不能替代独立评测。真正要看的,是换成你的工具链、你的网页环境、你的长任务之后,速度和成功率还成不成立。
官方还放了无人机调度案例。复合空管报文要拆成禁飞区解除、航点修改、任务分配、禁飞区半径调整和紧急调度五项任务,Clover在0.97秒后同时给出五项正确结果,Qwen在3.78秒展示结果,把UAV5的测绘任务误解析成医疗任务。这里能看出并行去噪对复合指令解析的吸引力。
GenUI是另一个自然场景。官方演示用单个HTML文件模拟桌面环境,要求窗口可拖拽,能打开记事本、计算器、时钟、天气和设置等小应用。Clover根据一条需求生成带程序坞和窗口系统的交互页面。
端侧也有数据。Clover在16GB显存的NVIDIA RTX 5070 Ti上做INT4量化部署,MATH-500生成速度101.8 tokens/s,官方对照的同规模MiniCPM、Qwen等模型是48.5 tokens/s。这个数字对想在本地跑Agent或交互应用的人更有参考价值。

生态伙伴SigmaZ把Clover带进教育场景,做可交互的3D科普。官方展示了一个细胞能量工厂页面,用户可以点击细胞器、切换标签、旋转视角。另一个是日月食演示,拖动时间轴看太阳、地球、月球的相对运动。SigmaZ称计划把token吞吐提升到2000 tokens每秒。


官方还预告了基于Clover的决策模型,后续发布。它支持独立模式和联合模式,联合模式把同一份材料下的多个问题放在一次去噪过程里并行生成,每次最多8个答案。内部验证包含500组、2420道关联问题,联合模式单题准确率95.0%,80.4%的问题组全对;同一模型独立作答是89.8%和62.4%,TypeSafe Jev在历史评测中是63.6%和15.8%。这个方向比单纯刷生成速度更有产品意味:多个关联判断一起生成,可能减少前后矛盾。
怎么用。权重在Hugging Face和ModelScope,代码在GitHub,Apache 2.0。官方支持Hugging Face Transformers、SGLang和llama.cpp。SGLang支持块扩散去噪和自推测解码,llama.cpp支持自推测解码。官方推荐SGLang做服务和评测,因为Hugging Face实现和SGLang kernel存在数值差异,生成文本可能不同。Transformers最小示例要求PyTorch 2.10以上、Transformers 5.19.0,单卡BF16权重大约69GB,显存先留够。SFT代码还没放出来,官方写的是coming soon。
从公开材料看,Clover把扩散语言模型往前推了一步:不再只证明能打,而是把开放权重、推理后端、Agent Demo和端侧部署摆到同一张桌上。接下来该看的不是又一个官方跑分,而是独立复现、长程任务稳定性,以及服务端并发和成本。680 tokens/s很亮,但把它放进生产流水线之前,先跑通SGLang,再拿你的真实任务打一遍。
相关链接:官方博客 Hugging Face ModelScope GitHub 在线体验申请 SGLang PR llama.cpp PR

发布时间: 2026-10-28 21:40