利用动态激活组合对大型语言模型进行多属性调控
内容提要
本文探讨了大型语言模型的激活引导技术，提出了一种名为Activation Addition (ActAdd)的方法，通过修改激活预测性地改变模型行为。研究表明，激活工程能够有效引导模型输出特定风格，并提升编程模型的鲁棒性和准确性。此外，Contrastive Activation Addition（CAA）方法显著改善了模型行为控制，超越了传统微调方法。研究还提出了后门激活攻击框架，展示了其在对齐任务中的有效性。
延伸解读
激活引导：多属性调控的挑战
文章指出，将多种行为的调整向量合并为一个调整向量基本上不成功，而同时在模型的不同位置插入个别的调整向量则是有前景的方向。这表明多属性调控需要更精细的干预策略，而非简单的向量叠加。
CAA：行为控制的新方法
Contrastive Activation Addition（CAA）方法通过在正向传递过程中修改激活，计算驱动向量来精确控制目标行为程度，并在用户提示后的所有标记位置添加这些向量。该方法显著改变模型行为，胜过传统微调和少样本提示，为大型语言模型的高级概念表示提供了深入洞察。
后门激活攻击：对齐任务中的风险
研究提出了后门激活攻击框架，通过向大型语言模型注入木马激活向量，使模型在推理时可被激活并朝攻击者期望的行为方向操纵。该方法在主要对齐任务上高度有效，且几乎不增加攻击开销，同时讨论了潜在对策。
Q&A
什么是Activation Addition (ActAdd)方法？
Activation Addition (ActAdd)是一种通过修改激活来预测性地改变大型语言模型行为的方法。
激活引导技术如何减少大型语言模型的风险？
激活引导技术可以通过调整模型的行为和输出风格来减少大型语言模型带来的风险。
Contrastive Activation Addition（CAA）方法有什么优势？
CAA方法通过在正向传递过程中修改激活，显著改善模型行为控制，超越传统微调方法。
如何通过激活工程提高编程模型的鲁棒性？
通过向隐藏层的激活添加风格向量，可以提高编程模型的鲁棒性和准确性。
后门激活攻击框架的有效性如何？
后门激活攻击框架在主要对齐任务上表现出高度有效性，几乎没有增加攻击效率的开销。
激活工程与提示工程有什么区别？
激活工程通过添加风格向量影响生成文本的风格，而提示工程主要依赖于输入提示来引导模型输出。
