Wink Pings

LFM3 发布:1.9B 参数追平 12B 模型

Liquid AI 发布新一代模型家族 LFM3,6 个实例覆盖文本、视觉、音频、全模态和决策。1.7B 文本模型在多项 agent 基准上超过 Qwen3.5-9B,1.9B 参数的 VL 模型追平 Gemma 4 12B。SGLang Day-0 支持已上线。

Liquid AI 今天发布新一代模型家族 LFM3。SGLang 同步上线 Day-0 支持,dev 镜像已可拉取。整个家族都是 2B 级小模型,但几项跑分直接打到了 12B 级。

LFM3 一共 6 个实例,覆盖文本、视觉、音频、全模态和决策。核心是新的 tri-hybrid 架构:13 个门控短卷积块、5 个滑窗注意力块、6 个全局注意力块。KV 状态只随序列长度在 6 个全局注意力层增长,长上下文显存开销被压得很低。

参数效率是这次最显眼的数字。LFM3-1.7B 在 WebArena-Verified 上拿 38.42,AutomationBench 拿 41.29,都超过 Qwen3.5-9B。LFM3-VL-2B 更夸张:1.9B 参数,62 个视觉基准平均 71.4,追平 Gemma 4 12B,对方参数是它的 6 倍。

LFM3 与 SGLang

六个模型各自的定位:

  • LFM3-1.7B:文本,256K 上下文。4-bit 量化后约 1 GB,手机能跑。单 GPU 可微调。
  • LFM3-VL-2B:视觉语言,新增视频输入,2fps 采样。能处理图表、数学、物体定位和空间关系。
  • LFM3-Audio-2B:语音,18 种语言。因果音频编码器支持边说边处理,首 token 延迟最低 50ms。
  • LFM3-Omni-2B:全模态,视觉+音频+语言,2.2B 参数。
  • d1-2B / d1-Omni-2B:决策模型,一次前向传播输出结构化结果和校准概率。

硬件在环架构搜索

Liquid AI 用硬件在环架构搜索设计模型,把推理速度和内存占用直接放进架构选择的约束里。LFM2 主要优化手机和笔记本 CPU,LFM3 扩展到 14 种设备组合:Galaxy S26 Ultra、OnePlus 15、Apple M4 Max、AMD Ryzen AI、树莓派 5,以及各类 GPU/CPU/NPU。部署约束先于架构,跟主流预训练范式明显不同。

长上下文方面,LFM3-1.7B 在 128K tokens 时 KV cache 占 1.6 GB,对比 Qwen3.5-4B 的 4.3 GB。Liquid AI 还跑了 30 万个并行 agent 分析安然邮件存档,演示大规模 agent 任务的可行性。

微调门槛同样低。一个风电叶片检测案例:约 3000 张公开照片,SFT+GRPO 微调 LFM3-VL-2B,单张 A100 几小时完成。缺陷分类准确率从不到 10% 提到 67%,检测 F1 从 0.003 到 0.11。微调后的模型还能回答图像相关问题并生成检查报告。

SGLang 的 Day-0 支持已可用,但还没进正式 release,需要用 dev 镜像:

docker pull lmsysorg/sglang:dev-lfm3

单卡启动:

sglang serve LiquidAI/LFM3-1.7B \
  --reasoning-parser auto \
  --tool-call-parser auto

两个 checkpoint 的 BF16 权重都不足 4 GB。LFM3 默认开思考模式,SGLang 把 <think> 拆进 reasoning_content。工具调用是 XML 格式,SGLang 自动解析成标准 tool_calls,OpenAI 兼容接口直接可用。

模型卡也写明了边界:小模型不适合 agentic coding 和复杂多步推理。适合的是端侧 agent、语音助手、视觉理解这类专精场景。

模型卡:LFM3-1.7B、LFM3-VL-2B
SGLang Cookbook:https://docs.sglang.io/cookbook/autoregressive/LiquidAI/LFM3

发布时间: 2026-10-28 04:58