💡
原文英文,约600词,阅读约需2分钟。
📝
内容提要
Cursor推出了一种动态上下文发现方法,通过动态检索所需信息,减少发送给大型语言模型的请求上下文大小,从而降低令牌使用量。该方法结合了五种技术,包括将输出写入文件、保存完整历史记录和动态发现领域特定能力等,显著提高了开发效率,预计将在未来几周内向所有用户开放。
🎯
关键要点
- Cursor推出了一种动态上下文发现方法,减少发送给大型语言模型的请求上下文大小。
- 该方法通过动态检索所需信息,降低令牌使用量,避免包含混淆或无关的细节。
- Cursor采用五种技术实现动态上下文发现,主要通过文件作为LLM工具的接口。
- 第一种技术是将大输出写入文件,确保相关信息不会丢失。
- 第二种技术是保存完整历史记录到文件,以便在需要时检索缺失的细节。
- 域特定能力也存储在文件中,允许代理动态发现相关能力。
- 对于MCP工具,代理仅检索工具名称,按需获取详细信息,显著减少令牌总数。
- 该方法使代理能够监控每个MCP工具的状态,及时通知用户。
- 所有终端会话的输出同步到文件系统,便于代理回答用户问题。
- 减少令牌数量有助于降低成本并加快响应速度,尤其是在多个服务器上。
- 动态上下文发现将在未来几周内向所有用户开放。