RECOST: 基于外部知识引导的数据高效训练指导优化

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

对比指令调优是改善大型语言模型对未知任务性能的方法,通过最大化语义上等效的指令实例对的相似性,最小化不同语义的实例对之间的相似性。实验证明,对比指令调优能够提升大型语言模型对未知指令的稳健性,平均准确率提高了2.5%。

🏷️

标签

➡️

继续阅读