NExT-LFM · 研究解读
更多研究
基础研究 / 能力激发与迁移 / 研究解读

Hub-Spectral:激活潜在多模态知识

共享枢纽中可能包含原生相似度分数未能可靠揭示的跨模态关系。

Guo Ying Chen Haidong Xu Linrui Liu Xiaohao Shi Chuancheng Xiao Canran Zhang Dan Shen Fei Shen Li Chua Tat-Seng

预印本 阅读原文 PDF 代码
概念视觉: Hub-Spectral:激活潜在多模态知识
根据研究主题创作的概念视觉。

核心内容

Hub-Spectral Activation 研究通过共享枢纽连接的模态之间,是否存在尚未被有效读出的关系。它从两条枢纽边构造二阶统计视角,定位成对的谱方向,再据此读出目标模态之间的关系;这一过程使用冻结表征,不依赖目标模态对的直接监督。

工作在检索和原型分类上检验读出效果,并通过对应关系置乱与来源样本分析,研究收益是否依赖枢纽边中有意义的结构,将性能改善连接到具体的机制解释。

31.15%平均双向 Recall@10
52.43%平均宏 Top-1 准确率
19 + 11检索关系 + 分类关系

表征能够表达的关系,可能超出默认相似度接口能够读出的范围。

图2 · 通过共享枢纽读出关系. 枢纽边的统计信息用于定位成对谱载体,从而读出目标关系,无需目标模态对的直接监督。
图2 / 第4页

通过共享枢纽读出关系

枢纽边的统计信息用于定位成对谱载体,从而读出目标关系,无需目标模态对的直接监督。

查看论文原图

为什么研究这个问题

两种模态分别与同一枢纽对齐,并不自动保证它们之间也能可靠对齐。这项工作研究:仅凭两条已训练的枢纽连接,能确定并恢复多少跨模态关系?

方法如何工作

  1. 组合并标准化两条来源枢纽连接的二阶统计量,刻画来源诱导的跨模态依赖。
  2. 提取成对谱方向,表示可由枢纽读出的关系成分,并分析其可恢复条件及维度边界。
  3. 结合可靠性加权匹配与来源门控候选解析,用于双向检索和原型分类,无需目标模态对监督或主干更新。
图3 · 检验对应关系是否重要. 置乱枢纽边的对应关系,检验支撑读出的结构信息。
图3 / 第9页

检验对应关系是否重要

置乱枢纽边的对应关系,检验支撑读出的结构信息。

查看论文原图

实验发现了什么

在 ImageBind 和 LanguageBind 上,19 个检索关系的平均双向 Recall@10 从 18.27% 提升到 31.15%;11 个原型分类关系的平均宏 Top-1 从 29.01% 提升到 52.43%。

图4 · 来源信息怎样影响恢复?. 随着来源样本预算变化,比较共享样本行与独立来源估计的表现。
图4 / 第10页

来源信息怎样影响恢复?

随着来源样本预算变化,比较共享样本行与独立来源估计的表现。

查看论文原图

这项研究意味着什么

其核心启发,是区分模型包含的信息与访问这些信息的接口。冻结余弦相似度下的弱表现,可能反映的是关系读出受限。重新研究这一接口,有机会在所测试的设置中激活已有结构,而无需通过更新骨干来重新建立它。

可恢复的关系仍受枢纽选择及两条边的统计结构约束。论文中的对照实验帮助刻画这些条件,也引出更系统的问题:共享坐标在何时足以支持跨模态能力组合,又在何时会失效?

论文与相关资源

本文为论文介绍,方法定义、实验设置与完整结果请参见论文原文。

引用这项研究
@misc{hub_spectral,
  title = {Hub-Spectral Activation of Latent Multimodal Knowledge},
  author = {Guo, Ying and Chen, Haidong and Xu, Linrui and Liu, Xiaohao and Shi, Chuancheng and Xiao, Canran and Zhang, Dan and Shen, Fei and Shen, Li and Chua, Tat-Seng},
  year = {2026},
  eprint = {2609.17094},
  archivePrefix = {arXiv},
  url = {https://arxiv.org/abs/2609.17094}
}