与直接偏好优化对齐的代码语言模型

BriefGPT - AI 论文速递 · 2024-10-24T00:00:00Z

本文介绍了CodeUltraFeedback数据集，包含10,000个复杂指令，用于评估大型语言模型与用户编码偏好的对齐。通过AI反馈和增强学习，CodeLlama-7B-Instruct在CODAL-Bench上超越了34B模型，验证了其实用性。同时，优化后的CodeLlama模型在功能正确性上有所提升，为语言模型与编码偏好的对齐奠定了基础。