基础研究 / 可靠评估与安全 / 研究解读
TraceRouter：通过路径级干预提升基础模型安全性
追踪有害语义的跨层传播，并在路径层面进行干预。
核心内容
TraceRouter 从内部成分之间的路径研究模型安全。它定位敏感起始层，通过稀疏特征追踪相关注意力交互，再实施聚焦于路径的抑制，尝试阻断与不安全行为相关的信息流，同时保留一般能力。
工作覆盖扩散与语言模型，将安全指标与质量或有用性指标配对评估。分析的重心由特征存在于哪里，进一步延伸到该特征如何参与下游计算。
3路径追踪阶段
SAE稀疏特征分离
FIS由干预估计的影响得分
行为可能依赖一条贯穿网络的计算路径，因此信息流本身也可以成为干预单元。
定位敏感起始位置
逐层敏感性评分在三类模型中识别候选起始层。
查看论文原图为什么研究这个问题
有害计算可能以分布式方式跨层传播。即使抑制了局部特征，相关信息仍可能沿其他连接继续传递，因此需要进一步分析其传播过程。
方法如何工作
- 通过注意力差异分析定位敏感的起始层。
- 利用 SAE 和差分激活分析分离与有害语义相关的特征。
- 通过置零干预估计特征影响得分，映射下游因果路径，并选择性抑制相关传播链。
跨模型家族的安全表现
原始模型级比较展示多模态语言模型上的安全结果。
查看论文原图实验发现了什么
论文在对抗鲁棒性与通用效用之间开展联合评估。所报告结果支持追踪并抑制选定传播路径的价值，说明安全干预还需要考察特征之间的跨层连接。
多种攻击设置下的安全性
原表在语言模型的梯度攻击与模式攻击下比较不同干预方法。
查看论文原图这项研究意味着什么
这一视角为可解释性增加了关系层面的研究对象。两个成分可能因为相互连接的计算路线而重要，单独观察其中任何一个都不足以描述行为。追踪路线，有助于让干预更具体地说明作用位置与作用方式。
实际挑战仍是跨任务、跨模型家族的选择性。路径证据为理解这种选择性提供了依据，而论文中的评估刻画了在什么设置下，抑制选定路径能够改善安全，并控制对一般能力的影响。
论文与相关资源
本文为论文介绍，方法定义、实验设置与完整结果请参见论文原文。
引用这项研究
@misc{tracerouter,
title = {TraceRouter: Robust Safety for Large Foundation Models via Path-Level Intervention},
author = {Shi, Chuancheng and Li, Shangze and Lu, Wenjun and Wu, Wenhua and Wang, Cong and Cheng, Zifeng and Shen, Fei and Chua, Tat-Seng},
year = {2026},
eprint = {2601.21900},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2601.21900}
}