基础研究 / 可靠评估与安全 / 研究解读
重新审视安全对齐模型的过度拒答：表征与优化视角
GOAL 结合梯度正交化与对比表征学习，改善有害请求与表面敏感良性请求之间的边界。
核心内容
这项工作追问：即使安全监督正确，良性请求为何仍可能被拒答？研究结合两类观察展开：有害与过度拒答样本的深层表征更难区分，同时有害样本梯度集中于低秩子空间，并更强地与拒答目标的更新方向对齐。
GOAL 分别作用于这两个层面：将过度拒答梯度中沿有害梯度拒答子空间的成分移除，并通过对比目标增强表征区分。由此，训练动态诊断被连接到安全边界学习方式的具体修改。
两类视角表征结构与优化梯度
3评估使用的基础模型
GOAL联合控制梯度与特征
准确的安全标签，还需要学习过程保留这些标签试图建立的区分。
学习过程中的两类干预
GOAL 结合拒答子空间梯度投影与安全感知对比学习。
查看论文原图为什么研究这个问题
为良性请求提供正确标签，并不意味着联合训练会完整保留它所需要的更新。理解过度拒答，还需要考察样本如何通过表征及改变模型的梯度相互影响。
方法如何工作
- 利用有害样本梯度，估计低秩拒答子空间。
- 相对于该子空间正交化过度拒答梯度，减少冲突更新成分。
- 结合对比学习，增强有害与过度拒答样本的表征区分。
分析梯度耦合
原始分析比较不同样本组的低秩集中程度与梯度方向对齐。
查看论文原图实验发现了什么
表征可视化与梯度分析为两个模块提供动机。实验在三个基础模型上，将 GOAL 与对齐及过度拒答基线比较，联合考察过度拒答、有害请求防护和一般能力，并通过模块消融及子空间敏感性分析检验设计。
校准需要联合评估
原表在三个模型上同时比较过度拒答、安全防护及一般能力。
查看论文原图这项研究意味着什么
这项研究把校准视为学习过程的性质，并与数据监督共同考察。即使每个样本的目标正确，样本之间的更新交互也可能侵蚀有效边界，因此安全改进需要进一步控制这些交互的几何关系。
这一视角将行为连接到两个可检验目标：哪些区分在内部仍然可见，训练又持续增强了哪些方向。联合观察二者，有助于解释拒答模式为何变化；安全与帮助性的共同评估，则检验这种校准是否真正有用。
论文与相关资源
本文为论文介绍，方法定义、实验设置与完整结果请参见论文原文。
引用这项研究
@misc{revisiting_over_refusal,
title = {Revisiting Over-refusal in Safety-aligned Large Language Models: A Representation and Optimization Perspective},
author = {Chen, Chao and Shao, Pengyang and Qin, Wei and Hao, Shijie and Shen, Fei and Hong, Richang},
year = {2026},
eprint = {2610.39802},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2610.39802}
}