小红花·文摘

本研究提出了CoIn框架，旨在解决商业大语言模型API中隐性推理令牌导致的透明度缺失问题。该框架通过可验证的哈希树和相关性匹配技术，有效检测令牌计数夸大现象，实验成功率达到94.7%，提升了LLM服务的计费透明度。