持续学习中自然语言处理的下一个任务和领域的跳转
内容提要
该文综述自然语言处理中的持续学习进展，涵盖任务分类、遗忘与知识迁移，涉及大模型持续适应、跨领域学习、主动持续学习及软掩蔽机制，提出CodeTask-CL基准和连续后训练方法。理论分析将类增量学习分解为任务内预测与任务ID预测，并设计新方法提升性能。
延伸解读
持续学习在NLP中的核心挑战
文章指出，NLP中的持续学习主要面临遗忘和知识迁移问题。随着模型不断学习新任务，旧知识容易被覆盖，而知识迁移则关注如何将旧任务知识用于新任务。综述涵盖了多种技术分类，并批判性评估了现有评估方法和数据集，为后续研究提供了方向。
大模型持续适应的新基准
针对大型语言模型，文章介绍了一个新基准来衡量模型在不同数据环境中的适应能力。通过持续适应域预训练，研究评估了LLMs的适应性和能力，并揭示了知识转移与模型大小的关键见解。这为开发高效、可持续的训练策略提供了重要参考。
主动持续学习的权衡
文章探讨了序列任务中的主动持续学习问题，每个任务包含未标记数据池和注释预算。实验揭示了主动学习与持续学习算法之间的相互作用，以及忘却旧知识和快速学习新知识之间的权衡。提出的遗忘-学习剖面有助于平衡两者对课程增量方案的影响。
理论分解与性能提升
文章将类增量学习分解为任务内预测和任务ID预测两个子问题，并指出任务ID预测与分布外检测相关。理论表明，优秀的任务内预测和任务ID预测或OOD检测对于良好的CIL表现是必要且充分的。基于此设计的新方法在CIL和TIL设置中均优于强基线。
Q&A
持续学习在自然语言处理中主要解决什么问题？
持续学习在自然语言处理中主要解决神经网络模型在序列任务中面临的灾难性遗忘和知识迁移问题，使模型能够不断学习新任务而不遗忘旧知识。
有哪些方法可以提升大语言模型在持续学习中的适应能力？
可以通过持续适应域预训练、使用软掩蔽机制控制模型更新、以及连续后训练（CPT）等方法，利用未标记的领域语料库不断扩展语言模型的知识，从而提升其适应能力。
CodeTask-CL基准是什么？它有什么作用？
CodeTask-CL是一个针对静态代码生成等多样编码任务的新颖基准测试，用于比较NLP和Vision领域中的不同持续学习技术，并提出了Prompt Pooling with Teacher Forcing（PP-TF）技术，取得了21.54%的改进效果。
类增量学习（CIL）可以被分解为哪两个子问题？
类增量学习（CIL）可以分解为任务内预测（WP）和任务ID预测（TP），其中TP与分布外检测（OOD）相关联。
主动持续学习（ACL）中主动学习（AL）和持续学习（CL）之间存在什么权衡？
在主动持续学习中，主动学习（AL）和持续学习（CL）之间存在两个相反目标的权衡：忘却旧知识和快速学习新知识。研究提出了遗忘-学习剖面来平衡AL和CL对课程增量方案的影响。
跨领域连续学习（CDCL）方法有什么特点？
CDCL方法在一个紧凑的卷积网络中结合了跨任务关注机制，实现了对先前任务特征的对齐，并在相关领域之间进行无监督的跨领域学习（UDA）。它使用任务内特定的伪标签方法确保有标签和无标签样本的准确输入对，在公开的UDA数据集上表现出良好性能。
