AbsInstruct: 通过解释调整和可信度估计从 LLMs 中调动抽象能力
📝
内容提要
通过指导调整的方式,我们提出了 AbsInstruct 框架来增强 LLMs 的抽象能力,通过深入解释构建指导,以帮助 LLMs 抓住抽象的基本原理,并使用可能性估计器选择与 LLMs 的抽象知识更一致的指导,将抽象指导与通用指导结合构建混合数据集,在保持其通用指导遵循能力的同时,大大提高了 LLMs 的抽象能力和强大的推广性能。
➡️