The GitHub Blog
·
通过定制模型训练不断发展GitHub Copilot的下一步编辑建议
内容提要
文章介绍了下一步编辑建议（NES）的开发过程。NES是一个定制的Copilot模型，旨在根据已写代码预测下一个逻辑编辑。模型通过高质量数据训练，并结合强化学习优化建议质量。开发者反馈推动了模型的改进，未来将实现跨文件建议和更快响应。
关键要点
-
下一步编辑建议（NES）是一个定制的Copilot模型，旨在根据已写代码预测下一个逻辑编辑。
-
NES的开发过程包括高质量数据训练和强化学习，以优化建议质量。
-
预测下一个编辑比预测下一个标记更具挑战性，模型需要快速响应并理解开发者的意图。
-
NES不是通用聊天模型，而是一个低延迟、任务特定的模型，与编辑器实时协作。
-
初始模型的训练依赖于内部拉取请求数据，但发现其局限性，需更真实的编辑行为数据。
-
通过大规模自定义数据收集，建立了更丰富的数据集，提升了模型质量。
-
使用监督微调（SFT）和强化学习（RL）进一步优化模型，提升了模型的泛化能力。
-
最新的NES版本在数据、提示和架构上进行了改进，优化了提示的上下文和数据质量过滤。
-
开发者反馈推动了NES的持续改进，包括减少建议的频率和提高响应速度。
-
未来计划实现跨文件建议和更快的响应，探索适应性行为以符合开发者的编辑风格。
延伸解读
模型训练的挑战与解决方案
开发下一步编辑建议（NES）模型的关键在于数据的质量。初期使用的内部拉取请求数据未能有效捕捉开发者的实时编辑行为，导致模型表现不佳。通过大规模自定义数据收集，团队建立了更丰富的数据集，从而显著提升了模型的预测能力和建议质量。
开发者反馈的重要性
开发者的反馈在NES的持续改进中起到了至关重要的作用。根据用户的使用体验，团队调整了模型的建议频率和质量，确保建议既不干扰开发者的工作流，又能在需要时提供有效的帮助。这种以用户为中心的设计理念是提升开发者体验的关键。
未来的发展方向
NES未来的计划包括实现跨文件的编辑建议和更快的响应速度。这意味着模型将能够更智能地理解代码之间的依赖关系，从而提供更具上下文相关性的建议。这一进展将进一步提升开发者的工作效率，适应不同的编辑风格。
延伸问答
什么是下一步编辑建议（NES）？
下一步编辑建议（NES）是一个定制的Copilot模型，旨在根据已写代码预测下一个逻辑编辑。
NES模型是如何训练的？
NES模型通过高质量数据训练和强化学习优化，使用自定义数据集来捕捉真实的代码编辑行为。
NES与通用聊天模型有什么不同？
NES是一个低延迟、任务特定的模型，专注于实时编辑建议，而不是通用聊天功能。
开发者反馈如何影响NES的改进？
开发者反馈推动了NES的持续改进，包括减少建议的频率和提高响应速度，以更好地适应用户需求。
未来NES有哪些计划和改进？
未来计划实现跨文件建议和更快的响应，同时探索适应性行为以符合开发者的编辑风格。
NES如何处理建议的质量和速度？
NES通过优化提示、数据质量过滤和强化学习来平衡建议的质量和响应速度。
