通过合成异常数据解码数据质量：基于嵌入式指导的代码数据剪枝

本论文研究了自然语言理解中的核心问题，以预训练语言模型为对象。通过对数据进行特定破坏转换，考察了模型在非意义上下文中的判断能力。结果显示，即使数据被破坏，模型在大部分任务上的表现仍然较好，说明其利用了其他提示信息。同时，引入了数据转换的概念，为评估模型语言理解能力提供了新方法。