Wink Pings

腾讯开源 2B 视觉模型:检测、分割、抠图收进一个模型

WeVisOne-VL 把对象级和像素级视觉任务放进同一个 2B/4B 模型,像素解码器只有 9.6M 参数,目标不存在时直接返回 None。

腾讯微信视觉团队在 X 上放出了 WeVisOne-VL 的消息,GitHub 已经挂出代码、权重和技术报告。项目地址:https://github.com/Tencent/WeVisOne-VL

WeVisOne-VL 概览

视觉模型行业有个习惯:检测一个模型,指代定位一个模型,分割一个模型,抠图再挂一个 SAM。流水线越长,部署越像厨房里摆满单功能小家电。WeVisOne-VL 想改这个局面,把对象级感知和像素级感知收进同一个视觉语言模型,提供 2B 和 4B 两个版本。

它支持的任务很具体:开放词汇检测、指代定位、计数、指向、OCR、指代分割、提示式 alpha matting。对象级输出框和点,像素级输出二值 mask 或连续 alpha matte。团队的说法是,在这套任务里不需要再单独挂 SAM。

关键设计有三块。数据引擎用知识图谱发现概念,用多个专家模型定位,再由 VLM 验证,把框扩展成 mask 和 alpha matte,标注规模超过 1 亿张图像。任务统一成结构化文本,坐标用 <0> 到 <1000> 的 token,每个框后跟一个 <OBJ> token。像素解码器只有 9.6M 参数,拿 <OBJ> token 的隐藏状态、预测框和多级 Qwen3-VL ViT 特征,输出全分辨率 mask 或 alpha matte。

数据引擎与方法概览

另一个实用点是拒识。目标不存在时,模型返回 None,不硬编一个框出来。指代检测和指代分割里,幻觉比漏检更烦人,这个设计省掉不少后处理规则。

性能数字来自团队技术报告。WeVisOne-VL-4B 在 LVIS 检测 F1 为 55.3,对比最强开放基线 50.7;Dense200 密集检测 F1 为 71.3,对比 58.7;RefCOCOg 指代 F1 为 81.8,对比 77.6;WeRef-Bench 拒识率 96.4%,对比 73.0;PixMo-Count 计数准确率 89.6%,对比 82.8;TotalText OCR F1 为 52.0,对比 43.3;ReasonSeg 指代分割 gIoU 为 71.2,对比 65.0。抠图任务里,P3M-500-NP 的 MAD 为 7.3,对比 15.4,MAD 越低越好;WeRefMat 指代抠图 MAD 为 9.8,对比 22.4。复现入口在仓库的 evaluation/README.md,使用前建议自己跑一遍。

框提示抠图与文本提示抠图对比

用法不复杂。安装后可以直接调推理接口,检测和抠图共用一套模型加载逻辑:

from PIL import Image
from wevisone_vl import WeVisOneVL
from wevisone_vl.visualization import save_result

model = WeVisOneVL("tencent/WeVisOne-VL-4B", backend="transformers")
image = Image.open("demo/examples/images/livingroom.jpg").convert("RGB")
result = model.predict(image, task="detection", query=["sofa", "pillow", "coffee table", "lamp"])
save_result("outputs/detection", image, result)

image = Image.open("demo/examples/images/seabreeze.jpg").convert("RGB")
result = model.predict(image, task="matting", query="person")
save_result("outputs/matting", image, result)

输入、alpha matte 与抠图结果

官方给了 Hugging Face 上的 2B 和 4B 在线 Demo,也有 Gradio 本地启动方式。仓库还开源了 Mask2Alpha,把二值 mask 转成高质量 alpha matte 的标注工具。代码采用 Apache 2.0,第三方组件保留原许可,权重使用前看模型卡。

对开发者,这个项目的看点是小模型加轻量像素解码器,把检测、OCR、分割、抠图压到一条推理链里,省掉多模型编排和 SAM 调用。对普通用户,理解成“一个模型能找物体、数数量、读图里的字、把人物或物体抠出来”就够了。它是否真能替代现成流水线,要看实际场景的延迟、显存和失败案例。至少从开源释放的形态看,腾讯把统一视觉感知这条路往前推了一步。

发布时间: 2026-11-04 02:40