基于大语言模型的复杂任务认知推理算法 CogTree

💡 原文中文,约2600字,阅读约需7分钟。
📝

内容提要

阿里云PAI与华东师范大学合作在EMNLP2023发表了基于认知理论的CogTree生成式语言模型,通过模仿人类认知过程提升大模型的解题准确度,为轻量化大模型的复杂任务推理提供解决方案。CogTree通过双系统迭代生成推理树,增强大模型的推理能力。在逻辑推理和数学问题上,CogTree的回答准确率明显提升。源代码将贡献在EasyNLP开源框架中。

🎯

关键要点

  • 阿里云PAI与华东师范大学合作,发表CogTree生成式语言模型。
  • CogTree基于认知理论,通过模仿人类认知过程提升大模型解题准确度。
  • CogTree采用双系统:直觉系统和反思系统,增强推理能力。
  • CogTree在逻辑推理和数学问题上的回答准确率明显提升。
  • 源代码将贡献在EasyNLP开源框架中,供NLP从业人员和研究者使用。
  • CogTree旨在解决大模型推理成本高和准确度低的问题。
  • 直觉系统生成假设,反思系统验证假设,形成推理树。
  • CogTree在Entailment Bank和GSM8K数据集上测试效果显著。
  • CogTree框架与其他微调方法对比,证明其有效性。
➡️

继续阅读