基础研究 / 可靠评估与安全 / 研究解读
谁在传递安全？定位并干预跨语言共享安全神经元
识别连接高资源与非高资源语言安全行为的共享安全神经元。
核心内容
这项工作识别跨语言共享的一小组安全神经元，并通过屏蔽和定向训练检验其作用。这些单元的重叠，连接高资源与非高资源语言的安全行为；SS-Neuron Expansion 将优化集中到承担跨语言桥梁作用的英语安全神经元。
证据同时来自神经元层面的干预和多语言攻击评估，将观察到的语言差异连接到候选内部机制，再检验针对该机制的训练能否改善跨语言安全。
共享跨语言安全神经元
干预检验激活与抑制对照
定向训练所选神经元对齐
跨语言安全迁移，取决于不同语言共享了哪些机制，以及能否有效调用这些机制。
寻找并增强迁移桥梁
流程识别共享安全神经元，并选择性训练承担跨语言桥梁作用的单元。
查看论文原图为什么研究这个问题
同一模型在不同语言上的安全表现可能明显不均衡。理解哪些内部成分参与了安全能力迁移，有助于设计更有针对性的对齐方式。
方法如何工作
- 先定位单语言安全神经元，并通过激活与抑制检验其对安全拒答行为的作用。
- 识别高资源与非高资源语言之间共享的安全神经元子集，研究其跨语言桥接作用。
- 结合语言资源分布与模型架构，对选中的共享子集开展神经元定向训练。
共享机制与安全行为
图中比较共享神经元数量与攻击成功率；此处呈现的是相关关系。
查看论文原图实验发现了什么
抑制共享神经元会导致多种非高资源语言的安全性同时下降；强化它们则改善跨语言防御一致性。对该子集进行微调，在所评估设置下优于所比较方法，并维持模型通用能力。
检验跨语言安全迁移
原表报告针对共享安全神经元进行扩展训练后的多语言攻击成功率。
查看论文原图这项研究意味着什么
共享模型参数，并不意味着不同语言能够同等有效地访问安全机制。定位迁移桥梁，使这种差异成为具体的研究对象，也为语言覆盖不均衡时如何分配对齐训练提供了依据。
更进一步的方向，是让迁移建立在机制证据之上：先识别共享了什么，再检验增强这些机制是否有益于未被直接监督的语言。迁移质量仍应结合通用帮助性，以及各语言特有的失效模式共同考察。
论文与相关资源
本文为论文介绍，方法定义、实验设置与完整结果请参见论文原文。
引用这项研究
@misc{who_transfers_safety,
title = {Who Transfers Safety? Identifying and Targeting Cross-Lingual Shared Safety Neurons},
author = {Zhang, Xianhui and Xie, Chengyu and Zhu, Linxia and Yang, Yonghui and Zhao, Weixiang and Cheng, Zifeng and Wang, Cong and Shen, Fei and Chua, Tat-Seng},
year = {2026},
eprint = {2602.01283},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2602.01283}
}