低语专家：通过抑制专家神经元减轻预训练语言模型中的有害性
内容提要
该文章介绍了一种减轻大型语言模型生成有害语言的方法，通过识别神经元对有害句子的区分能力，减少其激活水平来减轻有害语言。作者提出了AUROC适应（AURA）方法，可应用于任何预训练的大型语言模型。实验证明，AURA可将有害性减少2.2倍，仅增加0.72的困惑度。AURA在不同规模的模型上都有效，并保留了常识零样本能力。AURA可与预提示策略结合，将平均减轻潜力从1.28倍提升至2.35倍。此外，AURA还可对抗恶意预提示引发的有害内容，成为一种有效的部署更安全、更少有害模型的方法。
延伸解读
方法核心：基于神经元区分能力的干预
AURA方法的核心在于识别那些对有害句子有区分能力的神经元，并根据其区分能力成比例地降低激活水平。这种干预不依赖于模型特定的超参数，因此可以应用于任何预训练的大语言模型。通过这种方式，AURA能够在不引入额外复杂性的情况下减轻模型的有害性。
效果与代价：有害性降低与困惑度微增
实验表明，AURA可以将有害性减少高达2.2倍，同时仅增加0.72的困惑度。这意味着在显著降低有害内容生成的同时，模型的语言建模能力只受到轻微影响。这种权衡使得AURA成为一种实用的减轻有害性的方法。
跨规模有效性：从1.5B到40B参数
AURA在不同规模的模型上均有效，从1.5B到40B参数。它不仅减轻了有害语言，还保留了模型的常识零样本能力。这表明该方法具有普适性，不依赖于特定模型规模，为不同大小的模型部署提供了安全选项。
组合与对抗：与预提示策略协同及防御恶意提示
AURA可以与预提示策略结合，将平均减轻潜力从1.28倍提升至2.35倍。此外，它还能对抗恶意预提示引发的有害内容，如图1所示，即使面对诱导有害性的预提示，AURA仍能减轻毒性。这使得AURA成为部署更安全、更少有害模型的有效方法。
Q&A
AURA方法是如何减轻语言模型中的有害性？
AURA方法通过识别神经元对有害句子的区分能力，减少其激活水平，从而减轻有害语言。
AURA方法的有效性如何？
AURA可以将有害性减少2.2倍，且仅增加0.72的困惑度，适用于不同规模的模型。
AURA方法与预提示策略结合后有什么效果？
与预提示策略结合后，AURA的平均减轻潜力从1.28倍提升至2.35倍。
AURA方法能否应用于不同规模的语言模型？
是的，AURA在不同规模的模型上（从1.5B到40B参数）都有效。
AURA方法如何应对恶意预提示引发的有害内容？
AURA能够对抗恶意预提示，防止其引发的有害内容。
大型语言模型生成有害语言的主要问题是什么？
大型语言模型的主要问题是它们能够生成有毒语言，这对用户和社会造成潜在危害。
