BriefGPT - AI 论文速递 · 2024-12-17T00:00:00Z 用于高效少量样本微调的上下文学习蒸馏 💡 原文中文，约200字，阅读约需1分钟。 📝 内容提要 本研究提出了一种新的上下文学习蒸馏方法，旨在解决自然语言推理任务中大模型训练资源消耗过大的问题。通过将OPT-1.3B模型的参数压缩至1.25亿，外域准确率显著提高。 🏷️ 标签 上下文学习 外域准确率 微调 模型压缩 自然语言推理 蒸馏 阅读原文 生成长图 分享链接 已复制链接
