研究 CoT 增强蒸馏之谜
内容提要
本文提出了一种知识蒸馏方法，通过大型语言模型生成合理解释，提升小型自洽模型的推理能力。研究表明，采用级联分解和多模态框架等技术，能有效提高模型在科学问答和常识推理任务中的表现，超越传统方法。
延伸解读
知识蒸馏中的一致性挑战
文章指出，传统知识蒸馏方法在领域内推理表现优秀，但跨领域任务效果较差。同时，大型语言模型作为教师可能不可靠，需要对齐过滤器选择性地提炼一致和有帮助的合理性。这揭示了知识蒸馏中保证学生模型一致性和泛化能力的关键挑战。
级联分解提升泛化能力
CasCoD方法将传统的单步学习过程分解为两个级联学习步骤，通过去除预设答案并将问题与基本原理连接为输入，确保学生模型着重学习推理原理而不受干扰。实验证明，这种方法在领域内和跨领域基准推理数据集上均有效，提高了推理泛化能力。
多模态CoT的突破性表现
多模态-CoT框架结合语言与视觉信息，在ScienceQA基准测试中取得了91.68%的准确度，比GPT-3.5高出16个百分点，甚至超过了人类表现。这表明多模态信息融合能显著提升答案推断的准确度，为复杂推理任务提供了新思路。
小模型推理能力的显著提升
Sci-CoT框架通过分离生成推理步骤和推理答案的过程，使8000万参数的模型在ARC-Easy数据集的少样本情况下超过了BLOOM-176B的性能。SCoTD方法也证明，参数远低于50B的较小模型在常识基准测试中，有监督和少样本学习环境下性能得到提升。
Q&A
什么是知识蒸馏方法？
知识蒸馏方法是通过大型语言模型生成合理解释，以提升小型自洽模型的推理能力。
CasCoD 方法如何提高推理能力？
CasCoD 方法通过级联分解学习步骤，确保学生模型专注于推理原理，从而提高推理泛化能力。
SCoTD 方法在学习环境中表现如何？
SCoTD 方法在有监督和少样本学习环境下，能够显著提高小型模型的性能。
DOCTOR 是什么，它的作用是什么？
DOCTOR 是一种对话推理模型，通过提供高质量的合理性来提高对话代理的响应质量。
Sci-CoT 框架的优势是什么？
Sci-CoT 框架通过分离推理步骤和答案生成，提高了科学问答任务中的推理效率。
多模态 - CoT 框架如何提升推理准确度？
多模态 - CoT 框架结合语言与视觉信息，显著提高了答案推断的准确度，超过了人类表现。
