BBing's Blog
·
Token Tracker - 追踪 Coding Agent 的 Token 使用情况
💡
原文中文，约2400字，阅读约需6分钟。
📝
内容提要
本文介绍了作者开发的 Token Tracker 工具，用于追踪编程代理的 Token 消耗和缓存命中率。该工具包括服务器端、客户端插件和前端，能够展示消耗量和缓存命中率等指标。作者发现不同平台的缓存命中率差异显著，且 Token 输入输出比约为 100:1，输入量远大于输出量。该工具已开源，旨在优化使用习惯和降低成本。
🎯
关键要点
-
Token Tracker 是一个用于追踪编程代理 Token 消耗和缓存命中率的工具，分为服务器端、客户端插件和前端。
-
该工具能够展示总消耗、当日消耗、历史趋势及缓存命中率等指标。
-
不同平台的缓存命中率差异显著，其他平台约为 80-90%，而公司 API 约为 65%。
-
Token 输入输出比约为 100:1，输入量远大于输出量，反映了在编程过程中多轮对话的需求。
-
工具已开源，采用 Vercel + Neon 免费部署方案，适合个人使用。
-
缓存命中率和输入输出比是优化使用习惯和降低成本的重要指标。
❓
延伸问答
Token Tracker 工具的主要功能是什么？
Token Tracker 工具用于追踪编程代理的 Token 消耗和缓存命中率，展示总消耗、当日消耗、历史趋势等指标。
不同平台的缓存命中率有何差异？
其他平台的缓存命中率约为 80-90%，而公司 API 的缓存命中率约为 65%。
Token 输入输出比是什么？
Token 输入输出比约为 100:1，意味着输入的 Token 远多于输出的 Token。
如何优化 Token 使用习惯？
通过提高上下文连贯性、减少话题切换和规划清晰的对话，可以优化 Token 使用习惯。
Token Tracker 是如何部署的？
Token Tracker 采用 Vercel + Neon 的免费部署方案，适合个人使用。
Token Tracker 的开源情况如何？
Token Tracker 已开源，代码和部署记录都可以在 GitHub 上找到。
➡️
