Wink Pings

1.9B模型盯上餐厅摄像头:零token生成,笔记本就能跑

Roman Khrupa 用 Liquid AI 的 d1-2B 模型做了一个周末项目:让模型实时分析餐厅摄像头画面,告诉服务员哪些桌子需要清理。全程本地运行,不依赖云,也不生成任何 token。

一个1.9B参数的模型,在笔记本上盯着餐厅摄像头,实时告诉服务员哪桌该收拾了。没有云,没有token生成。这是 Roman Khrupa 用 Liquid AI 的 d1-2B 模型做的周末项目。

注意一个细节:它生成零token。这意味着它不是那种你问一句它答一句的语言模型。它直接输出结构化的判断——哪张桌子需要清理。没有文本生成,没有自回归解码。模型看画面,给出动作建议,完事。

这跟当下大模型拼参数、拼上下文长度的叙事有点不一样。一个1.9B的模型,干一件具体的事,跑在本地,不租GPU,不调API。成本低到可以忽略,隐私也不用担心——视频流根本不出设备。

Liquid AI 这家公司来自 MIT,做的是所谓“液态神经网络”。d1-2B 是他们的一个视觉模型。Roman 在周末把它接上摄像头,写了个简单的界面,就变成了一个能用的工具。没有训练,没有微调,直接推理。

有人可能会说这不过是个demo。但仔细想,餐厅摄像头本来就在那,服务员手机也能收通知。缺的不是硬件,是把视觉信号翻译成行动指令的那一层。以前这层要么靠人盯着监控,要么靠云端大模型,延迟高、成本高、隐私风险大。现在一个不到2B的模型就能在边缘设备上干这事。

当然,它只能告诉你哪桌该收了。至于怎么收、先收哪桌、客人还在不在,那是另一回事。但这就是小模型的逻辑:不追求通用,只解决一个具体问题。而且解决得足够便宜,便宜到可以随处部署。

视频里能看到,模型框出了需要清理的桌子,界面简单直接。没有花哨的聊天框,没有“你好,我是AI助手”。它就是个眼睛,加一个判断。

项目地址在 Roman 的推文里。如果你有开发背景,可以看看 d1-2B 的文档。如果你没有,记住这个趋势就行:模型正在变小,变专,变便宜。那些靠API调用费活着的大模型公司,可能得想想下一个故事怎么讲。

发布时间: 2026-11-10 16:28