The GitHub Blog
·
我们如何通过减少工具数量来提升GitHub Copilot的智能
内容提要
在VS Code中，GitHub Copilot Chat通过模型上下文协议（MCP）访问工具。将内置工具数量从40个减少至13个核心工具，并引入嵌入引导工具路由和自适应工具聚类，成功率提高2-5个百分点，响应延迟减少400毫秒。
关键要点
-
在VS Code中，GitHub Copilot Chat通过模型上下文协议（MCP）访问工具。
-
将内置工具数量从40个减少至13个核心工具，以提高成功率和减少响应延迟。
-
引入嵌入引导工具路由和自适应工具聚类，成功率提高2-5个百分点，响应延迟减少400毫秒。
-
设计了“虚拟工具”以功能性分组相似工具，减少模型的工具名称负担。
-
使用内部Copilot嵌入模型生成工具的嵌入，并通过余弦相似度进行分组。
-
引入嵌入引导工具路由，优化工具选择过程，减少不必要的探索调用。
-
嵌入选择方法在基准测试中实现了94.5%的工具使用覆盖率，优于其他方法。
-
缩小工具集使代理更有效，简化推理、加快响应时间和提高性能。
-
未来方向是探索如何结合嵌入、记忆和强化信号，创建上下文感知的代理。
延伸解读
工具数量与智能提升的关系
文章指出，过多的工具反而会降低模型的智能和响应速度。通过将内置工具数量从40个减少至13个，成功率提高了2-5个百分点，响应延迟减少了400毫秒。这表明，合理的工具数量可以提升系统的效率和用户体验。
嵌入引导工具路由的优势
引入嵌入引导工具路由后，模型能够更精准地选择相关工具，避免了不必要的探索调用。这种方法在基准测试中实现了94.5%的工具使用覆盖率，显著优于传统方法，显示出在实际应用中提升了模型的响应速度和准确性。
虚拟工具的设计思路
文章提到的“虚拟工具”设计，通过将相似工具功能性分组，减少了模型对工具名称的负担。这种方法不仅提高了工具的可用性，还降低了缓存未命中的概率，优化了模型的整体性能。
未来的智能代理发展方向
未来，GitHub Copilot将探索如何结合嵌入、记忆和强化信号，创建上下文感知的代理。这意味着，模型不仅能选择合适的工具，还能记住历史使用情况，从而进行更复杂的推理和多步骤操作，提升智能水平。
延伸问答
GitHub Copilot Chat如何通过减少工具数量来提升智能？
通过将内置工具数量从40个减少至13个核心工具，并引入嵌入引导工具路由和自适应工具聚类，成功率提高2-5个百分点，响应延迟减少400毫秒。
什么是嵌入引导工具路由？
嵌入引导工具路由是一种系统，通过比较查询嵌入与工具的向量表示，预选出最相关的工具组，从而减少不必要的探索调用。
减少工具数量对响应时间有什么影响？
减少工具数量使得用户体验改善，平均响应时间减少400毫秒，TTFT（首次令牌时间）减少190毫秒。
如何实现工具的自适应聚类？
通过使用内部Copilot嵌入模型生成工具的嵌入，并利用余弦相似度对工具进行分组，从而实现自适应聚类。
GitHub Copilot的核心工具集包含哪些功能？
核心工具集包含高层次的代码库结构解析、文件读取和编辑、上下文搜索以及终端使用等功能。
未来GitHub Copilot的方向是什么？
未来方向是探索如何结合嵌入、记忆和强化信号，创建上下文感知的代理，以实现更复杂的推理和多步骤操作。
