通过混合思维提炼，提高小型语言模型的数学推理能力

BriefGPT - AI 论文速递 ·

大型语言模型（LLMs）在自然语言处理领域取得显著进展。为了解决资源受限环境中的挑战，提出了一种双重方法：将LLMs的自我评价能力提取到SLMs中，采用综合的蒸馏过程。实验表明，该方法显著提高了蒸馏SLMs的性能。

双重方法大型语言模型小型语言模型自然语言处理蒸馏过程资源受限环境

原文中文，约300字，阅读约需1分钟。