NExT-LFM · 研究解读
更多研究
基础研究 / 机制理解 / 研究解读

能解码,不等于有视觉依据:VLM 空间推理的视觉消融裁决

通过图像消融,区分视觉依据、方向先验与被错误使用的表征。

Liao Chih-Ting

预印本 约 4 分钟阅读 阅读原文 PDF
概念视觉: 能解码,不等于有视觉依据:VLM 空间推理的视觉消融裁决
根据研究主题创作的概念视觉。

核心内容

这项研究检验一种常见的可解释性证据组合:探针能够读出答案,表征引导又能改善表现。在 VLM 空间推理中,即使图像被替换为空白,这种“恢复”也可能继续存在,因而高估视觉依据。

视觉消融裁决进一步区分三种情形:有视觉依据且使用正确、不依赖视觉的方向先验,以及依赖视觉却反向使用的部署。在第三种情形中,信息既能被解码、也能被干预控制,模型却以错误符号使用相关方向。

14分析覆盖的 VLM
6语言模型家族
三类状态视觉依据、先验与反向使用

能够解码或引导一种表征,并不足以证明模型依赖图像作出了决策。

图1 · 可解码性与视觉依赖可能分离. 每个点将探针准确率与移除图像后的行为变化联系起来。
图1 / 第2页

可解码性与视觉依赖可能分离

每个点将探针准确率与移除图像后的行为变化联系起来。

查看论文原图

为什么研究这个问题

模型可能暴露可线性解码的标签,却没有在实际计算中使用预期证据。证明表征存在且能够改变输出之后,还需要继续回答:这种行为影响是否依赖视觉输入?

方法如何工作

  1. 联合比较空间任务行为、探针可解码性与受控表征干预。
  2. 保持任务不变,使用空白图像及其他视觉消融对照,检验对输入证据的依赖。
  3. 区分视觉依据状态,并研究修正反向使用所需的最小表征编辑。
图2 · 引导是否恢复了视觉证据?. 对比真实与空白图像下的引导结果,检验收益是否依赖视觉。
图2 / 第5页

引导是否恢复了视觉证据?

对比真实与空白图像下的引导结果,检验收益是否依赖视觉。

查看论文原图

实验发现了什么

研究覆盖六类语言模型家族中的十四个 VLM,并按空间轴区分视觉依据状态。其他实验比较多种视觉消融,检验跨模型的解码—使用反向现象;修正方式随表征几何变化,从无需训练的旋转到学习得到的低秩编辑有所不同。

图3 · 跨模型的视觉依据卡片. 原始矩阵总结十四个 VLM 在不同空间轴上的行为与视觉依据状态。
图3 / 第7页

跨模型的视觉依据卡片

原始矩阵总结十四个 VLM 在不同空间轴上的行为与视觉依据状态。

查看论文原图

这项研究意味着什么

这项工作区分了四类容易混淆的证据:信息能被解码、输出能被干预控制、答案能够正确,以及决策确实依赖图像。更有说服力的潜在知识解释,需要明确自己已经验证了其中哪些环节。

一个简单反事实因而很有价值:移除视觉证据,可以挑战原本看似充分的探针与引导结论;其他消融则检验结果是否只是空白输入的特殊效应。更广泛的启发,是将视觉依据视为实际计算中需要测量的性质。

论文与相关资源

联系作者Liao Chih-Ting
mill.liao@unsw.edu.au

本文为论文介绍,方法定义、实验设置与完整结果请参见论文原文。

引用这项研究
@misc{decodable_not_grounded,
  title = {Decodable Is Not Grounded: A Vision-Ablation Arbiter for VLM Spatial Reasoning},
  author = {Liao, Chih-Ting and Shen, Fei and Cao, Xin and Chua, Tat-Seng},
  year = {2026},
  eprint = {2606.31257},
  archivePrefix = {arXiv},
  url = {https://arxiv.org/abs/2606.31257}
}