基础研究 / 可靠评估与安全 / 研究解读
EmoRSS：缓解大语言模型中情绪引发的过度拒答
情绪化措辞可能使正常请求更容易遭到拒答。EmoRSS 通过干预拒答相关激活，缓解这种偏移。
核心内容
EmoRSS 研究情绪表达为何会把良性请求推向拒答。配对问题用于隔离表达方式的变化，稀疏自编码器特征则把这种变化与拒答相关子空间联系起来。方法在保持基础模型冻结的情况下，于推理时逆转估计出的偏移。
评估同时关注良性问题的有效回答与有害问题的拒答能力。这一联合视角很关键：拒答减少是否有意义，取决于系统能否更准确地识别正当请求，并继续维持对有害意图的防护。
2参与评估的大语言模型
SAE拒答子空间特征
冻结主干参数无需更新
可靠的安全校准，需要区分有害意图与正当需求的情绪表达。
追踪情绪诱发的拒答偏移
框架定位拒答相关子空间，并在推理过程中逆转估计出的情绪偏移。
查看论文原图为什么研究这个问题
情绪表达不仅可能出现在攻击中，也可能出现在正常求助与日常问题中。如果情绪因素本身提高了拒答倾向，模型就可能拒绝本来可以回答的请求。
方法如何工作
- 用逐层线性探针定位拒答敏感层，再从与探针方向对齐的 SAE 特征中构建拒答子空间。
- 比较同一问题的普通版本与情绪化版本，估计拒答子空间中相关特征的平均激活偏移。
- 将偏移解码为隐藏状态干预向量，在推理时沿反向拒答方向施加干预，无需更新主干参数。
在三个层面测量偏移
配对的良性与有害请求分别在表征、首词和完整回答层面接受测量。
查看论文原图实验发现了什么
在两个大语言模型上，实验同时考察有害请求拒答、正常请求回答与通用任务表现。在包含情绪表达的设置下，EmoRSS 相比所比较的过度拒答缓解方法，实现了更有利的综合权衡。
联合评估安全与帮助性
原表同时报告情绪表达下的有害请求服从率与良性请求拒答率，需要联合解读。
查看论文原图这项研究意味着什么
有帮助的安全系统，需要对用户所请求的行为敏感，也需要对表达方式保持适当稳定。情绪和困境可以是正当需求的一部分；如果它们被模型当作风险的替代信号，真正需要帮助的用户就可能被系统性地挡在服务之外。
这项工作把行为上的校准偏差连接到可干预的内部方向，为研究安全与帮助性如何共同实现提供了机制线索。现有结论来自所测试的模型与配对问题设置，后续仍需拓展到更丰富的情绪、任务和多轮对话。
论文与相关资源
本文为论文介绍，方法定义、实验设置与完整结果请参见论文原文。
引用这项研究
@misc{emorss,
title = {EmoRSS: Mitigating Emotion-Induced Over-Refusal in Large Language Models},
author = {Miao, Shuyi and Ma, Yaojin and Cui, Chenhang and Liu, Xiaohao and Dang, Jisheng and Zhuo, Shengda and Shen, Fei and Chua, Tat-Seng},
year = {2026},
eprint = {2610.04998},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2610.04998}
}