12GB 显卡跑 125B 模型,Linger 想把 Personal Agent 搬回本地
开源、本地推理、零 Token 费,还能接 Claude Code 和 Codex。Linger 的卖点很直接,但 16GB Mac 到底顺不顺,官方数据和评论区疑问都值得先看一眼。
Linger 是 SimplexAI 开源的一个本地 Personal Agent。项目刚在 GitHub 放出,官方口号很直接:Claude 级的大脑跑在你的电脑上,本地推理零 Token 费,还能接 Claude Code 和 Codex 的官方订阅。
Personal Agent 和聊天框的区别在于,它要读邮件、日历、Slack,记住项目和人,必要时主动提醒,甚至用浏览器和桌面应用完成任务。云端方案一直有个问题,上下文越用越多,Token 账单和隐私边界一起涨。
Linger 的解法是把模型、记忆和工具调用尽量留在本地。默认 Pi 框架,最低 16GB Mac 内存可以跑本地模型。安装器会检测硬件,自动挑模型。官方说能跑 Qwen、DeepSeek、Gemma 等 12 款开源模型,靠自研 PolyStrata 引擎最高 5 倍推理加速。
更具体的数据是,125B 的 Qwen3.8-Flash-Next 在 12GB RTX 3060 加 64GB 内存上跑到 45.5 tok/s。PolyStrata 把 MoE 模型最忙的专家留在 GPU,其他放内存或 SSD,所以模型权重可以大于显存。这个思路不新,Linger 把它做进了消费级设备和一键安装。

官方测速表里不少数据来自模拟档位,真实机器可能更慢。Mac 16GB 推荐 Spark-X2.6-4B,短提示两个并发会话较慢一路约 33 到 37 tok/s,5.7 万 token 长提示后约 24 到 26 tok/s。评论区有人追问 16GB Mac 真能跑顺吗,这个问题现在还没有足够多的真实反馈。
接订阅这块也留了口子。Linger 支持通过 CLI 导入 Claude Code、Codex 或 Pi 运行时,本地模型和订阅模型可以在同一个 room 里协作。有用户提到,他把 Codex 和本地模型拉进同一个 room 做深圳选址推荐,交互顺,最后报告 UI 精致。这个用法对开发者更有吸引力:贵的模型做判断,本地模型跑重复活,账单能下来一点。
记忆用 Wiki 存。Gmail、Outlook、Slack、Calendar、会议、文件和 agent 对话,每夜 00:00 归档成 Wiki 页面,按 Daily report、Projects、Topics、People、Companies 分类。官方在 LoCoMo 记忆基准上给 Linger 95%,比 Zep 94.7%、Mem0 92.5% 高一点。基准是基准,真实工作里能不能记住客户上周改了口径是另一回事。不过把记忆留在本地设备,这个方向对隐私敏感的人有价值。

另一个能力是主动提醒。Another Me 会看 inbox、日历和 Slack,按规则决定现在说、晚点跟还是闭嘴。每夜 Dreaming 读它自己发出去的消息怎么落地,再改写判断规则,不重训模型。这个设计比堆记忆更像个人助理,也更考验规则边界。
插件通过 Composio 接 Gmail、Outlook、Google Calendar、GitHub、Notion、Slack、Discord、Figma、Canva、Higgsfield、Fal 等,每天 1 万次免费调用。原文还提到 Dmit IP 会被锁,需要绕一下注册 Key。这个细节说明早期工具的坑还在。
隐私要说清楚。本地模型和 Wiki 记忆可以不出电脑,接云端模型或语音时仍会走外部提供商。官网 FAQ 写明,语音需要 Soniox 和 xAI。想完全离线的人要看清配置。
装法不复杂。GitHub 有桌面包:macOS 14 以上 Apple silicon、Windows x64、Linux x64 glibc 2.35 以上。Intel Mac 走 Docker Compose。官网下载区还标着 Coming soon,GitHub 上已有 release。想试的人先接受早期项目可能有的安装坑。
Tony Zhang 在发布里引用 1960 年代集中计算到 PC 的历史,说智能应该分布式,你的上下文、数据和驱动它们的智能应该完全归你所有。这个类比不一定成立,但本地推理的成本曲线和隐私需求确实在推着 Personal Agent 往下走。今天你还要为 16GB Mac 顺不顺纠结,明天可能只需要纠结电费和显卡。GitHub 链接放这,Star 之前先看官方测速条件。
发布时间: 2026-11-19 13:28