Wink Pings

ComfyUI 里跑 Qwen 快了两倍,评论区先算起了旧账

ComfyUI 官方宣布 Qwen 模型在 Comfy 里 token 速率翻倍。用户的第一反应不是鼓掌,而是追问:所以以前到底有多慢。

ComfyUI 团队在 r/StableDiffusion 发了条帖子:Comfy 里的 Qwen 模型,token 生成速率翻倍。动手的是 Rattus。

先补点背景。ComfyUI 的本地用户里,多数人还在用 RTX 3060,5 年前的卡,12 GB 显存。团队说自己一直在针对消费级硬件做优化。这话不假,但放到 LLM 上就有点微妙:ComfyUI 靠视觉 AI 出名,文本生成在它那儿长期像个附属品。提示词生成要用,Comfy Agent 这类本地创作工具也要用,绕不开。

image

技术细节写在博客里:https://blog.comfy.org/p/doubling-llm-token-rates-in-comfyui

帖子发出来,评论区没急着鼓掌。排在前面的问题很直接:ComfyUI 以前是很慢,还是现在比 Ollama、LMStudio 这些还快?

官方账号回得挺老实:没做过对比,但那些工具是专门为 LLM 做的,大概率还是比 ComfyUI 快。

底下用户补的料更具体。有人说 ComfyUI 过去慢得令人绝望;有人在 P40 上用 GGUF 文件做提示词增强,同一个文件,Comfy 比 llama.cpp 慢一个数量级;还有人跑 Llama 3.1 这种小模型,ComfyUI 也远不如 LM Studio。

Mac 用户那边怨气更重。一位用户说,ComfyUI 的 LLM 支持在 Mac 上永远只跑 CPU,M5 Max 加 64GB 内存也一样,慢到没法用,最后只能让 agent 打补丁,去调 ComfyUI 外面的 llama.cpp。他的原话是:用 Mac 的人这么多,这事挺让人费解。

gif

官方回应说,Mac 用户在 ComfyUI 里占比小,但这是个鸡生蛋的问题,性能好了人可能才会多,支持确实要补。

也有人替苹果说话:这个价位能拿到 128GB 统一内存的地方不多,过去两年 Apple 设备跑本地 AI 并不差,缺的是软件支持。另有人推荐 Draw Things,说针对 Apple Silicon 优化过,快不少。提建议的用户自己也有麻烦:他想玩 Ideogram 4,需要一段按区域写提示词的 JSON,手敲几乎不可能,而 Draw Things 和 Unsloth Studio 都没给对应的 UI。

回到那个两倍。这个数字是相对 ComfyUI 自己,不是相对专用推理栈。基数低的时候,翻倍听着响,绝对值未必好看。ComfyUI 的强项是节点式视觉工作流,LLM 在里头是配件。配件提速,对每天在同一个界面里连图带文一起跑的人是实惠。要跟 Ollama 这类工具掰手腕,官方自己都没这么讲。

真正值得留意的是评论区的走向:没人质疑优化本身,大家在追问欠账还有多少。Mac 上只跑 CPU 是个明显的洞,而且不是一天两天了。

发布时间: 2026-11-12 08:50