llama.cpp 发布 v1.0:老牌本地推理项目开始补桌面入口
llama.cpp 发布 v1.0。Hugging Face 的 Merve 同时公布博客和基于它的桌面应用。社区一边感谢,一边催维护者、谈性能差距和 MoE 流式优化。
llama.cpp 发布 v1.0。这个项目长期是本地跑大模型的底层工具之一,GGUF 格式和 ggml 后端被大量下游应用依赖。Hugging Face 的 Merve 在 r/LocalLLaMA 发帖宣布版本节点,并说后续会继续覆盖各平台和模型类型,同时保持项目对下游应用足够轻、足够稳。帖子里还放了博客和 Llama 桌面应用链接。桌面应用基于 llama.cpp,目标是把本地 AI 的入口压缩到几次点击。
博客:https://huggingface.co/blog/ggml-org/llama-cpp-v1
桌面应用:https://llama.app/
GitHub release:https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0

帖子附了一段演示视频。
社区反应分成两类。一类是感谢和祝贺,说这个项目让本地 AI 变得可接近。另一类更直接:有网友催项目增加维护者,理由是 open issues 和 PR 数量很多;还有网友说 llama.cpp 的性能进展不如以前,提到 Strata 在 NVMe offloading 上更强,并感慨两年前几乎每周都有明显加速,现在慢了。关于 MoE streaming,有人问会不会考虑 Strata 或 gufo 风格的做法,另一位网友指出 llama.cpp 已经支持 MoE streaming,提问者补充说自己指的是权重重打包、自定义 shader kernel、批量乘法优化这些实现层面的东西。
v1.0 对 llama.cpp 是个稳定承诺,也是一张新门票。桌面应用把门槛降给普通用户,老用户盯着的仍是维护者容量和性能迭代。版本号到 1 不代表竞争结束,本地推理这条线还远没到可以松手的时候。
发布时间: 2026-11-13 22:07