BriefGPT - AI 论文速递 · 2024-01-16T00:00:00Z DAPT：用于大型语言模型参数高效持续学习的双重注意力框架 💡 原文中文，约300字，阅读约需1分钟。 📝 内容提要 提出了一种新颖的双注意力框架（DAPT），通过双注意力学习和选择模块，优化了鲁棒性防止灾难性遗忘和促进知识迁移的能力。实验证明，DAPT在抵抗灾难性遗忘和促进知识迁移方面优于现有方法。在不同模型大小和未见任务方面，DAPT也表现出优越性。 🏷️ 标签 双注意力框架 大型语言模型 模型大小 灾难性遗忘 知识迁移 鲁棒性 阅读原文 生成长图 分享链接 已复制链接
