大学研究人员发布大型语言模型中链式思维推理的分析
原文英文,约600词,阅读约需3分钟。发表于: 。Researchers from Princeton University and Yale University published a case study of Chain-of-Thought (CoT) reasoning in LLMs which shows evidence of both memorization and true reasoning. They also...
普林斯顿大学和耶鲁大学的研究发现,大型语言模型(LLM)的链式思维(CoT)推理结合了记忆和真实推理能力。即使提示中的示例不正确,CoT仍能有效。研究通过解码移位密码发现,LLM的表现依赖于记忆、噪声推理和正确输出的概率。实验显示,GPT-4在数字解码任务中表现出色,表明其具备核心推理能力,但CoT并非纯粹的符号推理。研究代码和数据已在GitHub上发布。