The GitHub Blog
·
我们如何通过减少工具数量来提升GitHub Copilot的智能
💡
原文英文，约1300词，阅读约需5分钟。
📝
内容提要
在VS Code中，GitHub Copilot Chat通过模型上下文协议（MCP）访问工具。将内置工具数量从40个减少至13个核心工具，并引入嵌入引导工具路由和自适应工具聚类，成功率提高2-5个百分点，响应延迟减少400毫秒。
🎯
关键要点
- 在VS Code中，GitHub Copilot Chat通过模型上下文协议（MCP）访问工具。
- 将内置工具数量从40个减少至13个核心工具，以提高成功率和减少响应延迟。
- 引入嵌入引导工具路由和自适应工具聚类，成功率提高2-5个百分点，响应延迟减少400毫秒。
- 设计了“虚拟工具”以功能性分组相似工具，减少模型的工具名称负担。
- 使用内部Copilot嵌入模型生成工具的嵌入，并通过余弦相似度进行分组。
- 引入嵌入引导工具路由，优化工具选择过程，减少不必要的探索调用。
- 嵌入选择方法在基准测试中实现了94.5%的工具使用覆盖率，优于其他方法。
- 缩小工具集使代理更有效，简化推理、加快响应时间和提高性能。
- 未来方向是探索如何结合嵌入、记忆和强化信号，创建上下文感知的代理。
❓
延伸问答
GitHub Copilot Chat如何通过减少工具数量来提升智能？
通过将内置工具数量从40个减少至13个核心工具，并引入嵌入引导工具路由和自适应工具聚类，成功率提高2-5个百分点，响应延迟减少400毫秒。
什么是嵌入引导工具路由？
嵌入引导工具路由是一种系统，通过比较查询嵌入与工具的向量表示，预选出最相关的工具组，从而减少不必要的探索调用。
减少工具数量对响应时间有什么影响？
减少工具数量使得用户体验改善，平均响应时间减少400毫秒，TTFT（首次令牌时间）减少190毫秒。
如何实现工具的自适应聚类？
通过使用内部Copilot嵌入模型生成工具的嵌入，并利用余弦相似度对工具进行分组，从而实现自适应聚类。
GitHub Copilot的核心工具集包含哪些功能？
核心工具集包含高层次的代码库结构解析、文件读取和编辑、上下文搜索以及终端使用等功能。
未来GitHub Copilot的方向是什么？
未来方向是探索如何结合嵌入、记忆和强化信号，创建上下文感知的代理，以实现更复杂的推理和多步骤操作。
🏷️
标签
➡️
