本文对BERT、GPT-2和T5三种基于Transformer的预训练语言模型进行了鲁棒性测试，并发现GPT-2在多种输入扰动下表现更好。研究揭示了基于Transformer的模型的扰动特异性弱点。

BERT 的治愈力量：如何通过任务特定微调恢复受损的语言模型
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证