草稿链替代思维链,推理token减少80%-90%,降低算力成本和延迟。该方法生成简洁的信息密集token,保持准确率,适用于多种推理任务。实验表明,草稿链在降低成本的同时,准确率未显著下降,但在零样本设置下效果减弱。
本文介绍了一种新型提示策略“草稿链”(CoD),旨在提高大型语言模型(LLMs)的推理效率。CoD通过减少冗长的中间推理输出,聚焦关键信息,达到与“思维链”(CoT)相似或更好的准确性,同时显著降低令牌使用和延迟。实验结果显示,CoD在多个推理任务中有效,令牌使用减少92.4%,符号推理准确率达到100%。
完成下面两步后,将自动完成登录并继续当前操作。