BriefGPT - AI 论文速递 · 2024-02-20T00:00:00Z

ELAD：解释引导的大型语言模型主动蒸馏

📝

内容提要

本研究提出了一种方法，将大型语言模型（LLMs）的知识提炼为更小、更高效且准确的神经网络，以在资源受限设备上部署模型。通过对测试数据集的比较，结果显示提炼的学生模型准确率更高，参数大小减小了100倍和10倍。该研究为自动评分在教育环境中的应用提供了潜力。

🏷️

标签

准确率 大型语言模型 知识提炼 神经网络 自动评分