将大型语言模型作为评判者与人类偏好对齐
内容提要
LangSmith推出了一种自我改进的评估系统，利用人类反馈优化大型语言模型（LLM）的评估，简化提示工程。该系统通过少量示例学习，提高评估准确性，帮助团队更高效地评估和调整AI应用，以满足人类期望。
延伸解读
为何需要LLM作为评判者
文章指出，LLM应用常输出自然语言，难以用硬编码规则评估，如简洁性或正确性。传统单元测试不适用，因此“LLM作为评判者”成为流行方法，即用另一个LLM对输出进行评分。这解决了生成式任务缺乏标准指标的痛点，但引入了新的提示工程负担。
自我改进评估器的工作原理
LangSmith的自我改进评估器将人类对LLM评判输出的修正存储为少量示例，并反馈到未来提示中。这样，评估器无需额外提示工程即可准确反映用户偏好，并随着交互自动适应。其核心是结合LLM的少量学习能力与人类反馈，减少手动调整。
研究基础与实现方式
该方案受两篇研究启发：一是LLM擅长少量学习，提供正确示例即可模仿；二是伯克利Shreya Shankar的论文《谁验证验证者？》探讨了将LLM评估与人类偏好对齐。LangSmith据此构建系统，用户可轻松设置在线或离线评估器，并指定少量示例格式，系统随时间改进。
Q&A
LangSmith的自我改进评估系统有什么特点？
LangSmith的自我改进评估系统利用人类反馈优化评估，能够根据少量示例学习，提高评估准确性，减少手动干预。
如何使用LLM作为评估者进行评估？
用户可以在LangSmith中设置LLM作为评估者，进行在线或离线评估，初始设置需要的配置很少。
LLM作为评估者的优势是什么？
LLM作为评估者能够有效评估自然语言输出，简化评估过程，并且可以根据人类反馈自动调整。
LangSmith如何解决评估中的提示工程问题？
LangSmith通过自我改进的评估器，利用人类反馈来减少提示工程的需求，使评估过程更加高效。
自我改进评估器如何提高评估准确性？
自我改进评估器通过存储人类对评估结果的修正作为少量示例，反馈到后续的提示中，从而提高评估准确性。
LangSmith的评估系统对AI应用的影响是什么？
LangSmith的评估系统帮助团队更高效地评估和调整AI应用，以满足人类期望，提升开发信心和效率。
