BriefGPT - AI 论文速递
·
Knowledge Distillation of Large Language Models Using Unlabeled Data
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本研究提出了一种自适应样本选择方法LLKD，旨在提高大语言模型在自然语言处理中的实用性，通过生成伪标签来训练小模型，从而提升数据利用效率和模型性能。
🎯
关键要点
-
本研究提出了一种自适应样本选择方法LLKD。
-
LLKD旨在提高大语言模型在自然语言处理中的实用性。
-
该方法通过生成伪标签来训练小模型。
-
LLKD能够有效利用无标签数据。
-
最终实现更高的数据利用效率和模型性能。
🏷️
