SMELT编译器通过相关性筛选显著减少OpenClaw的令牌使用，节省高达95%。它智能筛选相关内容，避免重复发送固定文件，提升效率并降低成本。开发者TooCas指出，SMELT不仅是压缩，而是智能筛选，未来计划实现自动学习Markdown结构。
Cursor推出了一种动态上下文发现方法，通过动态检索所需信息，减少发送给大型语言模型的请求上下文大小，从而降低令牌使用量。该方法结合了五种技术，包括将输出写入文件、保存完整历史记录和动态发现领域特定能力等，显著提高了开发效率，预计将在未来几周内向所有用户开放。
在构建大型语言模型应用时，跟踪令牌使用非常重要，因为每次API调用都会消耗令牌，影响成本和延迟。LangSmith可以记录、监控和可视化令牌使用，帮助用户分析项目性能，优化工作流程，降低费用。
本研究提出了一种基于A*搜索算法的解码推理策略，优化了固定计算预算的利用。实验结果表明，该方法在保持大模型性能的同时，令牌使用量减少了3倍，计算通行次数减少30%，展示了结构化搜索在推理中的优势。
本研究提出了一种“自我方面检索增强总结生成”框架，旨在解决传统总结方法的资源限制和泛化能力不足问题。该框架通过嵌入驱动的检索机制提取相关文本片段，优化令牌使用，实验结果表明其性能优于传统方法，有效缓解了令牌限制问题。
完成下面两步后，将自动完成登录并继续当前操作。
