1GB内存跑多模态,LFM3实测:够用吗?
Liquid AI 发布 LFM3 系列,最小约 1GB 内存,LM Studio 已上线。文本、视觉、音频、Omni、决策六个模型实例,参数最大 2.2B,多项性能对标 6 倍大的模型。开发者实测 Q8 量化,128K 上下文约 3.5GB 内存,速度 97.85 tok/s。
Liquid AI 发布了 LFM3,新一代 Liquid Foundation Models。LM Studio 同步上线,模型页写着:最小模型约 1GB 内存。
这次发布的是一个系列,不是单个模型。六个实例,覆盖文本、视觉、音频、omni 和决策,参数从 1.7B 到 2.2B。Liquid AI 的说法:tri-hybrid 架构,新的多模态编码器,为专用智能设计。
文本模型 LFM3-1.7B,256K 上下文。在 WebArena-Verified 和 AutomationBench 上,官方数据超过 Qwen3.5-9B。128K tokens 的 KV cache 占 1.6GB,Qwen3.5-4B 要 4.3GB。长对话下,小模型反而能给应用留出更多内存。Liquid AI 还并行跑了超过 30 万个 agent 分析安然邮件存档。
视觉模型 LFM3-VL-2B,支持视频输入。62 个视觉基准平均 71.4,官方说和 Gemma 4 12B 持平,后者 6 倍大。参数只有 1.92B。它还带空间推理,能定位物体、理解物体之间的位置关系,官方说它能为机器人应用提供基础。
音频模型 LFM3-Audio-2B,文本或音频输入,输出文本、语音或两者。18 种语言,支持口语工具调用。官方内部评估 58.5,对比 Qwen2.5-Omni-3B 的 44.3。LiquidCodec 分词器在 Apple M4 Max 单线程上约 87 倍实时合成语音。因果编码器可以边听边处理,减少等待。
Omni 模型 LFM3-Omni-2B,视觉、音频、语言一起处理。Daily-Omni 70.1,对比 Qwen2.5-Omni-7B 的 61.3。参数 2.2B。
决策模型 d1-2B / d1-Omni-2B,输出带校准概率的边界框、字段提取、数值范围、多选概率。117 个基准平均 63.2,d1-3B 是 58.8,参数少三分之一。
架构上,LFM3 语言骨干用了 24 层混合结构:门控短卷积、滑动窗口注意力、全局注意力。Liquid AI 说,架构用自动化硬件在环搜索设计,针对 14 类处理器优化,包括手机、笔记本、树莓派、云 CPU、GPU 和 NPU。部署约束被写进架构选择,同时优化每参数能力和设备端推理速度。
LM Studio 上的 LFM3-VL-2B GGUF 约 1.10GB。开发者 SourceCodeplz 下载 Q8 量化后指出:文件 1.85GB,128K 上下文额外约 1.6GB,总计约 3.5GB 内存。他让模型写一个 HTML 页面,结果不完美但可用,速度 97.85 tok/s。初版 GGUF 在 LM Studio 0.4.26 上加载失败,更新运行时后解决。这种“第一版总有点问题”的细节,熟悉本地模型的人应该不陌生。
这类小模型的价值在专用场景里更明显。官方给了一个风力涡轮机检查的例子:约 3000 张公开照片,SFT+GRPO,一张 A100 上训练几小时。缺陷分类准确率从不到 10% 到 67%,检测 F1 从 0.003 到 0.11。机器人方向:导航 R2R 53%、RxR 43%,操作 VLA 在 LIBERO 上平均 96.2%,在 Jetson AGX Orin 上动作生成不到 50ms。
LFM3 不会取代 GPT-6 这类前沿模型。它的思路是另一条:在特定任务上做到足够好,同时小到能塞进你的设备。有网友在评论区说,老笔记本终于又有活干了。1GB 内存的模型能调用工具、处理视觉和音频,这个趋势比参数数字更值得注意。本地 agent 的入场券,可能已经降到 1GB。
发布时间: 2026-10-28 06:42