“母病速归”式 AI：号称省 65% Token，实测只有 8.5%
内容提要
“电报体 Skill”在AI中复兴，旨在减少Token消耗。荷兰学生开发的Caveman项目声称能节省65% Token，但实测仅为8.5%。JetBrains测试显示，Caveman未显著降低任务质量。节省主要来自聊天场景，而编程Agent的Token消耗主要在系统提示和上下文。未来应关注减少无关上下文和提高缓存命中率，而非单纯压缩语言。
关键要点
-
电报体 Skill 旨在减少 AI 的 Token 消耗，类似于过去的电报写作方式。
-
荷兰学生开发的 Caveman 项目声称能节省 65% Token，但实测仅为 8.5%。
-
JetBrains 测试显示，Caveman 在任务质量上没有显著下降，但节省效果被夸大。
-
Caveman 主要在聊天场景中节省 Token，而编程 Agent 的 Token 消耗主要来自系统提示和上下文。
-
电报体的简化表达依赖于双方的背景知识，编程 Agent 面对的环境变化较大，默契不足时可能导致误解。
-
未来应关注减少无关上下文和提高缓存命中率，而非单纯压缩语言。
延伸解读
节省Token的真实效果
Caveman项目声称能节省65%的Token，但实测结果仅为8.5%。这种差距主要源于其节省效果在聊天场景中更为明显，而编程Agent的Token消耗主要来自系统提示和上下文。因此，用户在选择使用此类工具时，应对其节省效果保持谨慎态度。
电报体的局限性
电报体的简化表达依赖于双方的背景知识。在编程环境中，Agent的任务和上下文变化较大，可能导致误解。虽然Caveman在任务质量上没有显著下降，但过于简化的表达可能会增加沟通成本，导致开发者需要反复确认信息。
未来的优化方向
文章指出，未来应关注减少无关上下文和提高缓存命中率，而非单纯压缩语言。有效的上下文管理和工具调用优化，可能比简单的Token节省更为重要，能够真正降低Agent的使用成本。
延伸问答
Caveman项目声称能节省多少Token？
Caveman项目声称能节省65% Token，但实测仅为8.5%。
JetBrains对Caveman的测试结果如何？
JetBrains测试显示，Caveman在任务质量上没有显著下降，但节省效果被夸大。
Caveman主要在哪些场景中节省Token？
Caveman主要在聊天场景中节省Token，而编程Agent的Token消耗主要来自系统提示和上下文。
电报体Skill的概念是什么？
电报体Skill旨在减少AI的Token消耗，类似于过去的电报写作方式，强调简洁表达。
为什么Caveman的节省效果不如宣传的那么高？
因为Caveman的节省主要来自聊天场景，而编程Agent的Token消耗大头在系统提示和上下文。
未来如何有效降低Agent的Token消耗？
未来应关注减少无关上下文和提高缓存命中率，而非单纯压缩语言。
