BriefGPT - AI 论文速递 · 2024-02-08T00:00:00Z

大型语言模型与图神经网络相遇于知识蒸馏

📝

内容提要

本研究提出了一种方法，将大型语言模型（LLMs）的知识提炼为更小、更高效且准确的神经网络，以在资源受限设备上部署模型。通过测试，发现提炼的学生模型准确率优于原始神经网络模型。此研究对自动评分在教育环境中的应用具有潜力。

🏷️

标签

大型语言模型 知识提炼 神经网络 自动评分 资源受限设备