本文提出了一种基于信任区域理论的高效微调方法,通过参数化噪音减少表示变化,解决表示崩溃问题。实验结果表明,该方法在多任务上表现优异、速度更快且具有更好的泛化性。此外,研究探讨了通过噪声学习提高模型鲁棒性的方法,尤其在对抗攻击防御方面表现突出。
本论文提出了基于信任区域理论的简化和高效的fine-tuning方法,用参数化噪音代替了对抗目标,减少表示更改。实验证明,该方法在多种任务上效果优秀且速度更快,表示的泛化性也更稳定。
完成下面两步后,将自动完成登录并继续当前操作。