The GitHub Blog
·
通过定制模型训练不断发展GitHub Copilot的下一步编辑建议
💡
原文英文，约1900词，阅读约需7分钟。
📝
内容提要
文章介绍了下一步编辑建议（NES）的开发过程。NES是一个定制的Copilot模型，旨在根据已写代码预测下一个逻辑编辑。模型通过高质量数据训练，并结合强化学习优化建议质量。开发者反馈推动了模型的改进，未来将实现跨文件建议和更快响应。
🎯
关键要点
- 下一步编辑建议（NES）是一个定制的Copilot模型，旨在根据已写代码预测下一个逻辑编辑。
- NES的开发过程包括高质量数据训练和强化学习，以优化建议质量。
- 预测下一个编辑比预测下一个标记更具挑战性，模型需要快速响应并理解开发者的意图。
- NES不是通用聊天模型，而是一个低延迟、任务特定的模型，与编辑器实时协作。
- 初始模型的训练依赖于内部拉取请求数据，但发现其局限性，需更真实的编辑行为数据。
- 通过大规模自定义数据收集，建立了更丰富的数据集，提升了模型质量。
- 使用监督微调（SFT）和强化学习（RL）进一步优化模型，提升了模型的泛化能力。
- 最新的NES版本在数据、提示和架构上进行了改进，优化了提示的上下文和数据质量过滤。
- 开发者反馈推动了NES的持续改进，包括减少建议的频率和提高响应速度。
- 未来计划实现跨文件建议和更快的响应，探索适应性行为以符合开发者的编辑风格。
❓
延伸问答
什么是下一步编辑建议（NES）？
下一步编辑建议（NES）是一个定制的Copilot模型，旨在根据已写代码预测下一个逻辑编辑。
NES模型是如何训练的？
NES模型通过高质量数据训练和强化学习优化，使用自定义数据集来捕捉真实的代码编辑行为。
NES与通用聊天模型有什么不同？
NES是一个低延迟、任务特定的模型，专注于实时编辑建议，而不是通用聊天功能。
开发者反馈如何影响NES的改进？
开发者反馈推动了NES的持续改进，包括减少建议的频率和提高响应速度，以更好地适应用户需求。
未来NES有哪些计划和改进？
未来计划实现跨文件建议和更快的响应，同时探索适应性行为以符合开发者的编辑风格。
NES如何处理建议的质量和速度？
NES通过优化提示、数据质量过滤和强化学习来平衡建议的质量和响应速度。
➡️
