20毫秒分完文本，100毫秒分完图片：EmbeddingGemma 2 的社区玩法

Google Gemma账号转了一个社区项目。做法不复杂：不把每个输入送进完整多模态LLM，在EmbeddingGemma 2上训练一个轻量分类器。模型紧凑、原生多模态，能在本地边学新类别边分类。按推文说法，文本约20ms，图像约100ms。

便宜的分类头

这个组合的看点在于分工。EmbeddingGemma 2负责把文本和图像压成向量，分类器只学向量上的边界。embedding可以理解为把输入压成一串向量，分类器在向量空间里划范围。

TechVerser在回复里把它叫实时线性探针或分类器，认为sub-100ms本地多模态推理是甜点，比把每个请求都管道给完整VLM更划算。这个架构在素材里被称为被低估的模式。

AI Drop从hunch repo看到更具体的运行方式：它跑在普通CPU上，只有和教师模型一致足够频繁时才接管，之后继续抽查。先用教师模型定住质量，再让便宜的小分类器形成日常反射。对agent应用，这类反射层成本低，响应快。

漂移和标注

但便宜有代价。Gabe提醒，冻结embedding只训练head是真正的优势，实时重训却会让分类器随每个新标签批次漂移。解法指向工程细节：版本化embedding index，否则会追不存在的回归。

Max Petrusenko补了一刀，实时训练的head只和那一小把标注样本一样可靠，漂移常表现为输入落在类别之间。

Bojodanchev问得更实际：新类别需要多少示例，如果少于10个，支持团队可以自己训练工单路由器，不用叫ML工程师。Mister SnowCrash问文本示例学到的类别能否迁移到图像，还是每个模态要各自标签。素材没有给出答案，这两个问题会决定它能不能从demo变成产品模式。

智能镜子

另一个玩法更直观。Shivay Lamba做了个离线智能镜子：Arduino Ventuno Q上跑Qwen2.5 VL 7B描述穿着，EmbeddingGemma 2做多模态向量搜索找相似裙子，PiperTTS负责语音，目标硬件是Qualcomm NPU。站到镜子前，能得到穿搭建议和可选衣服，全程离线。项目展示了本地多模态搜索的一个具体形态：大模型做描述，embedding做检索，小模型和TTS补交互。

项目链接：https://x.com/HowDevelop/status/2107810049284538828

回到开头。社区把EmbeddingGemma 2用在搜索之外，方向很清楚：不追求一个模型包打所有任务，把理解、检索、分类拆开，让轻量部分在端侧高频跑。值不值得跟，不看演示有多炫，看两件事：新类别要多少标注，漂移怎么被管住。前者决定普通人能不能自己教模型，后者决定开发者敢不敢把它放进生产。