Knowledge Distillation of Large Language Models Using Unlabeled Data

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种自适应样本选择方法LLKD,旨在提高大语言模型在自然语言处理中的实用性,通过生成伪标签来训练小模型,从而提升数据利用效率和模型性能。

🏷️

标签

➡️

继续阅读