本地 LLM 项目展示：提示词流程、Qwen 内核和私有应用构建器

r/LocalLLaMA 的双周项目展示帖由 rm-rf-rm 在 2026 年 11 月 11 日发出，规则很明确：项目要能本地跑、开源、开放权重，闭源商业服务会被移除。这期跟帖里有五个项目，方向从软件开发提示词、实验设计调参，到私有全栈应用构建、Qwen 推理内核优化和单卡模型切换。

BluePrint：让编码模型先问问题
bigattichouse 分享了 BluePrint。他的说法是，这个项目把需求写成表单，使用标准技术英语，设计优先，再配合大量测试。和一次性生成相比，模型会先提问，整理需求，设计测试，然后用测试检查有没有破坏已有功能。他说这套流程对自己的编码模型输出质量提升很大。他还让 Claude/fable 用 Blueprint 审查代码和设计输出，反馈是整体质量不错，不过测试阶段仍出现了一些简单错误。他使用的模型是 Qwen3.8-27B 的 unsloth 6K UD 量化版本。

robust：实验设计数组用于参数搜索
同一个作者还放了 robust。它实现 Morris、Sobol、Taguchi、Pareto arrays 等实验设计方法。作者原本在家庭实验室做电池化学实验，也会在软件里用它。当可调参数很多，不清楚先改哪个，而且参数之间存在取舍时，这类方法能帮助定位真正重要的参数，再尝试不同取值。仓库里给了 llama-optimize 示例，用来说明如何给把 LLM 装进硬件这件事调参数。

Trustant：本地 AI 驱动的私有全栈应用构建器
msciabarra 发布了 Trustant 1.0.2，源码和文档。项目定位是开源全栈应用构建器，用本地 AI 做私有云。作者把它比作 Lovable，但全部私有。安装 builder 后，可以用提示词和 wysiwyg 创建应用，再发布到服务器。系统提供虚拟机环境、编码 agent、serverless 环境，以及数据库、缓存、存储和 FaaS。builder 跑在个人电脑上，使用本地 AI 或任何 OpenAI 兼容服务，默认提供 Ollama Cloud。生成的 serverless 应用基于 Apache OpenServerless，可以部署到任何安装了 OpenServerless 的服务器。内置组件包括 pgsql 和 milvus 的 SQL 与向量数据库，redis 和 seaweedfs 的缓存与 S3，openwhisk 的 FaaS。应用代码是可识别的 react+python，也可以通过 starter 改用其他语言。作者说这个项目做了一年，建立在 Apache OpenServerless 和多年 OpenWhisk 经验之上。

Qwen 内核优化：vLLM 0.33.0 上的无损加速
Old_Ad_6033 贴出 llm-engine-qwen-optimization。项目为 Qwen3.x 在 vLLM 0.33.0 中做了专门的内核优化。发帖人说速度更快且无损，decode 平均提升 30% 到 40%。仓库还公开了方法，让 agent 可以照着优化自己的引擎配置。发帖人半开玩笑地说，这项工作由 agent 完成。

SimpleHarn：单张 NVIDIA GPU 的模型切换器
legislat 的 SimpleHarn 是一个简单模型切换器，针对 Win/Linux 上单张 NVIDIA GPU，带智能的 VRAM 和 RAM 准入控制。作者强调不会过度提交，拒绝时会给出清晰提示。对于需要在多个本地模型之间切换、又不想把显存和内存撑爆的人，这个方向比较直接。

以上项目都来自公开帖，链接和作者信息保留在文中。项目质量、适用性和维护状态需要读者自己判断。