arXiv 新增 + VLM representation diagnosis · P1 · 2026-06-20

The Hidden Evolution of Disguised：它和通用视觉自监督的关系在于：比较视觉 token 作为上下文输入或层内注入时在 LLM 内部如何变成语言可用表征

中高相关；详见方法、贡献和实验边界。

The Hidden Evolution of Disguised Visual Context inside the VLM　arXiv 新增 + VLM representation diagnosis　原文链接

编号2606.20077 优先级P1 类别arXiv 新增 + VLM representation diagnosis 会议arXiv 新增 + VLM representation diagnosis 方法比较视觉 token 作为上下文输入或层内注入时在 LLM 内部如何变成语言可用表征来源arXiv / OpenReview

先说结论。它和通用视觉自监督的关系在于：比较视觉 token 作为上下文输入或层内注入时在 LLM 内部如何变成语言可用表征。中高相关；详见方法、贡献和实验边界。

**Figureure 9 · : Architecture overview of the hybrid IN-CT + LW-AT model compared to** Fig. 9: Architecture overview of the hybrid IN-CT + LW-AT model compared to standalone IN-CT and LW-AT. IN-CT vision tokens are concatenated at the input, while LW-AT vision tokens are injected into the keys and values at every layer. Fig. 10: Token sequence and position ID assignment for IN-CT, LW-AT, and the hybrid IN-CT + LW-AT model. Each paradigm preserves its original position ID scheme independently within the hybrid architecture.这张图概括 The Hidden Evolution of Disguised 的整体方法流程。阅读时先看模块之间传递的训练信号，再看作者如何把目标拆成可优化的子问题。

**Figureure 1 · : Overview of the three VLM integration paradigms evaluated in this st**Fig. 1: Overview of the three VLM integration paradigms evaluated in this study. (a) IN-CT concatenates visual tokens with text tokens at the input layer, (b) LW-GC introduces visual features through gated cross-attention blocks, and (c) LW-AT injects visual features directly into the LLM's keys and values.这张图概括 The Hidden Evolution of Disguised 的整体方法流程。阅读时先看模块之间传递的训练信号，再看作者如何把目标拆成可优化的子问题。

核心问题

它和通用视觉自监督的关系在于：比较视觉 token 作为上下文输入或层内注入时在 LLM 内部如何变成语言可用表征。

方法拆解

比较视觉 token 作为上下文输入或层内注入时在 LLM 内部如何变成语言可用表征

主要贡献

中高相关；详见方法、贡献和实验边界。

实验看点

实验部分建议重点看两类证据：一是作者是否把方法收益和更强数据、更长训练、更大模型区分开；二是跨模型、跨数据或跨任务迁移是否还能保留同样趋势。

局限与读法

这篇论文的结论需要结合任务设置、训练数据规模和消融实验一起看；不要只凭单个指标判断它对通用视觉表征的价值。