Wink Pings

手碰到物体的那一帧,比认出物体更难

第一人称视频里判断「手在拿杯子」不算难,难的是说清哪一帧开始拿、哪一帧松手。ACCV 2026 这篇论文把接触拆成两个时间边界来做,还顺手建了个 4000 多段视频的数据集。

第一人称视频(egocentric video)里的手物交互,常见做法是判断一个状态:手有没有碰到物体。ACCV 2026 这篇论文换了个问法,接触是什么时候开始的,什么时候结束的。

它把一次接触拆成两个时间边界。touch,手第一次建立接触的那一刻;release,接触解除的那一刻。任务就是在一段视频里把这两个点定准。

Hand-Object Contact Transition Detection 示意图

难点不在语义。模型早就知道画面里是手和杯子。难点在边界本身。手在靠近物体的过程中,遮挡、运动模糊、头部晃动叠在一起,接触真正发生的那一两帧,人眼标注都得来回看几遍。接触是一个过程,不是一个能直接读出来的标签。

论文来自 Huy Anh Nguyen、Chang Dong、Feras Dayoub、Minh Hoai,挂在 arXiv 上是 2611.13486。

方法上做的是一个统一框架,同时建模交互中的手和物体。具体是在以手为中心的时空表征上,叠加直接从视频里学出来的物体感知特征,再用一个 transition-aware 的 event spotting 公式,把接触转换当成事件定位来处理。

有一个工程上值得说的点:推理阶段不调用外部的物体检测器,也不依赖现成的手物交互检测器。整条链路端到端。少一层外部依赖,就少一层误差传播,也少一段推理延迟。真要做成可部署的东西,这种取舍比刷点指标更实际。

为了支撑这个任务,作者建了 ContactTransition 数据集,包含 4,021 段第一人称视频,8,498 条 touch 标注和 8,077 条 release 标注,另外还带了 object-of-interest 的监督。

实验结果上,两类转换的检测都稳定超过了两阶段方案和端到端的 event spotting 基线。作者还额外验证了一件事:把这些检测到的接触转换当作时间锚点,能帮助下游的第一人称手物推理。

这个思路的价值在于把时间粒度压细了一层。知道一段视频里有接触,和知道接触从第几帧开始,对下游任务完全是两回事。做动作理解、做机器人示范学习、做第一人称的操作辅助,都需要这个起点。

保留一点判断:四千段视频这个量级,场景和物体覆盖终究有限,换到更杂乱的日常环境里,边界检测的稳定性还得再看。这也是这类细粒度时序任务的普遍问题,先把定义立住,泛化留给后面。

论文链接:https://arxiv.org/abs/2611.13486

发布时间: 2026-11-15 05:25