chat.nvim v1.10.0 发布,重点优化 token 消耗与数据清洁。新增懒加载工具发现机制:默认仅发送 essential 工具和 find_tool,其余工具由 AI 按需查询激活,激活状态每回合清空,并具备自愈机制防止中断。同时支持 write_file 行尾格式、Markdown 感知分块、HTTP API 增强、脏工作区提醒,并修复多处 UTF-8 与集成问题。
AI编码代理处理大量结构化数据时,JSON格式重复字段名会浪费token。TOON格式通过表头加行数据,减少字符和token消耗,如25条问题列表可省49%字符。选择格式需考虑数据形状和消费者,并测量实际效果,以优化代理成本。
AI应用成本飙升的根源在于token消耗过多,而非模型本身。优化token是架构设计问题,可通过提示缓存、语义缓存、对话压缩、工具输出精简、模型路由、上下文压缩和微调等策略,大幅降低成本并提升效率。优化不仅是省钱,更是让AI更智能、快速和可持续。
VS Code团队推出轻量级编码模型MAI-Code-1-Flash,与GitHub Copilot集成,在保证编码质量的同时降低token使用量。生产数据显示其质量优于Claude Haiku 4.5和GPT-5.4 Mini,且比大型模型更高效。A/B测试表明用户参与度更高,token消耗更低。该模型适合简单迭代任务,未来将推出更大版本。
完成下面两步后,将自动完成登录并继续当前操作。