本文介绍了局部微调框架(LoFiT)的方法,通过识别关注度高的注意力头并训练偏移向量,有效地调整大型语言模型的表示以适应特定任务。相比表示干预方法,LoFiT的干预向量在提高模型真实性和推理任务上更有效。
完成下面两步后,将自动完成登录并继续当前操作。