通用视觉自监督研究报
A Daily Digest of Visual Self-Supervised Learning
2026-07-21 图像表征 · VFM · JEPA · 视频预训练
arXiv new; privileged distillation for MLLM grounding · P2 · 2026-07-21

IoUPD:它和通用视觉自监督的关系在于:用带 box 标注的教师分支提供训练时 privileged guidance,把 token-level 坐标生成和 IoU 几何质量对齐

中相关;详见方法、贡献和实验边界。

编号2607.15732 优先级P2 类别arXiv new; privileged distillation for MLLM grounding 会议arXiv new; privileged distillation for MLLM grounding 方法用带 box 标注的教师分支提供训练时 privileged guidance,把 token-level 坐标生成和 IoU 几何质量对齐 来源arXiv / OpenReview

先说结论。它和通用视觉自监督的关系在于:用带 box 标注的教师分支提供训练时 privileged guidance,把 token-level 坐标生成和 IoU 几何质量对齐。 中相关;详见方法、贡献和实验边界。

Figureure 1 · : Overview of IOU-PD
Figureure 1 · : Overview of IOU-PDFigure 1: Overview of IOU-PD. Ground-truth boxes are used not only as coordinate targets, but also to construct privileged teacher inputs during training. The student receives the original image and original referring-expression prompt, while the teacher receives a box-marked image and an augmented prompt that indicates the marked region. The training objective combines an SFT anchor with IoU-aware privileged distillation, while keeping the inference-time input format unchanged.这张图概括 IoUPD 的整体方法流程。阅读时先看模块之间传递的训练信号,再看作者如何把目标拆成可优化的子问题。
Figureure 5 · : IOU-PD improves grounding across object sizes
Figureure 5 · : IOU-PD improves grounding across object sizesFigure 5: IOU-PD improves grounding across object sizes. Examples are grouped by the ground-truth bounding-box area in the normalized coordinate space: small (< 5%), medium (5%−10%), and large (> 10%). Points report P@0.5 and P@0.7 for the base model and the IOU-PD model, with orange segments and labels indicating absolute gains.这张可视化用来解释 IoUPD 学到的中间表征或对齐关系。重点看它是否支持正文里的机制判断。

核心问题

它和通用视觉自监督的关系在于:用带 box 标注的教师分支提供训练时 privileged guidance,把 token-level 坐标生成和 IoU 几何质量对齐。

方法拆解

用带 box 标注的教师分支提供训练时 privileged guidance,把 token-level 坐标生成和 IoU 几何质量对齐

主要贡献

中相关;详见方法、贡献和实验边界。

实验看点

实验部分建议重点看两类证据:一是作者是否把方法收益和更强数据、更长训练、更大模型区分开;二是跨模型、跨数据或跨任务迁移是否还能保留同样趋势。

局限与读法

这篇论文的结论需要结合任务设置、训练数据规模和消融实验一起看;不要只凭单个指标判断它对通用视觉表征的价值。