南京大学的研究揭示了工具使用智能体在开放世界中的泛化脆弱性,提出了四级分层偏移框架,分析了SFT和RL训练范式的结构性弱点,并提出PAFT方法,通过引入扰动增强微调,提升模型的鲁棒性和泛化能力。
本研究提出无提示性微调(PAFT)方法,旨在解决大语言模型在微调过程中对提示变化的敏感性。PAFT通过动态调整提示,提升模型的鲁棒性和泛化能力,尤其在面对未见提示时表现更佳。
本文探讨了偏好的参数高效微调(PEFT)方法在大型语言模型中的应用,强调其在内存和计算资源限制下的优势。研究表明,适配器模块与微调策略结合能有效提升低资源文本分类性能,并在多任务中实现与大型模型相媲美的效果。实验证明,PEFT方法在多语言适应和长上下文处理上表现出色,推动了该领域的研究进展。
完成下面两步后,将自动完成登录并继续当前操作。