InfoQ
·
AI驱动的代码编辑器Cursor推出动态上下文发现方法以提高令牌效率
内容提要
Cursor推出了一种动态上下文发现方法，通过动态检索所需信息，减少发送给大型语言模型的请求上下文大小，从而降低令牌使用量。该方法结合了五种技术，包括将输出写入文件、保存完整历史记录和动态发现领域特定能力等，显著提高了开发效率，预计将在未来几周内向所有用户开放。
关键要点
-
Cursor推出了一种动态上下文发现方法，减少发送给大型语言模型的请求上下文大小。
-
该方法通过动态检索所需信息，降低令牌使用量，避免包含混淆或无关的细节。
-
Cursor采用五种技术实现动态上下文发现，主要通过文件作为LLM工具的接口。
-
第一种技术是将大输出写入文件，确保相关信息不会丢失。
-
第二种技术是保存完整历史记录到文件，以便在需要时检索缺失的细节。
-
域特定能力也存储在文件中，允许代理动态发现相关能力。
-
对于MCP工具，代理仅检索工具名称，按需获取详细信息，显著减少令牌总数。
-
该方法使代理能够监控每个MCP工具的状态，及时通知用户。
-
所有终端会话的输出同步到文件系统，便于代理回答用户问题。
-
减少令牌数量有助于降低成本并加快响应速度，尤其是在多个服务器上。
-
动态上下文发现将在未来几周内向所有用户开放。
延伸解读
动态上下文发现的优势
Cursor的动态上下文发现方法通过动态检索所需信息，显著减少了发送给大型语言模型的请求上下文大小。这种方法不仅降低了令牌使用量，还避免了混淆或无关细节的干扰，从而提高了开发效率。尤其在处理多个MCP服务器时，开发者可以更快速地获取所需信息，提升工作流的顺畅度。
技术实现与应用
Cursor采用五种技术来实现动态上下文发现，其中包括将输出写入文件和保存完整历史记录。这种方法使得代理能够在需要时快速检索信息，确保重要数据不会丢失。此外，域特定能力的动态发现也为开发者提供了更灵活的工具使用体验，适应不同的开发需求。
成本与响应速度的影响
通过减少令牌数量，Cursor的动态上下文发现方法不仅降低了使用成本，还加快了响应速度。尤其是在多个服务器环境下，减少令牌使用量可以显著提升系统的整体性能。这对于需要频繁调用MCP工具的开发者来说，具有重要的实用价值。
延伸问答
Cursor的动态上下文发现方法有什么主要优势？
该方法通过动态检索所需信息，减少请求上下文大小，从而降低令牌使用量，避免混淆或无关的细节。
Cursor是如何实现动态上下文发现的？
Cursor采用五种技术，包括将输出写入文件、保存完整历史记录和动态发现领域特定能力等。
动态上下文发现如何影响令牌使用量？
该方法显著减少了令牌总数，A/B测试显示在调用MCP工具时，令牌减少了46.9%。
动态上下文发现对开发效率有什么影响？
动态上下文发现提高了开发效率，尤其是在运行多个MCP服务器时，减少令牌使用有助于加快响应速度。
Cursor的动态上下文发现方法何时向所有用户开放？
动态上下文发现将在未来几周内向所有用户开放。
动态上下文发现如何处理MCP工具的状态监控？
代理可以监控每个MCP工具的状态，并在需要重新认证时及时通知用户。
