极道
·
OpenClaw上下文浪费7千Token？SMELT相关性筛选降本95%
内容提要
SMELT编译器通过相关性筛选显著减少OpenClaw的令牌使用，节省高达95%。它智能筛选相关内容，避免重复发送固定文件，提升效率并降低成本。开发者TooCas指出，SMELT不仅是压缩，而是智能筛选，未来计划实现自动学习Markdown结构。
关键要点
-
SMELT编译器通过相关性筛选显著减少OpenClaw的令牌使用，节省高达95%。
-
SMELT智能筛选相关内容，避免重复发送固定文件，提升效率并降低成本。
-
开发者TooCas指出，SMELT不仅是压缩，而是智能筛选，未来计划实现自动学习Markdown结构。
-
OpenClaw每次对话都重复读取固定文件，造成大量令牌浪费。
-
SMELT通过查询条件式检索，仅发送与问题相关的记录，保留上下文。
-
SMELT的第四层通过相关性评分筛选记录，确保发送内容的相关性。
-
TooCas强调字节压缩和令牌压缩是不同的，测量需使用实际tokenizer。
-
目前SMELT的schema是手工打造，计划未来实现自动学习任意Markdown文档的结构。
-
许可证问题引发争议，限制过多可能影响开源贡献。
-
TooCas提到RUNE技术，未来模型将能自我执行压缩，与SMELT结合效果更佳。
-
SMELT编译器个人使用完全免费，开发者鼓励用户自行集成。
-
本地模型没有缓存层，每条消息都需重新计算，SMELT显著减少计算负担。
-
TooCas提供了论文DOI和GitHub链接，方便用户查找和使用SMELT。
延伸解读
SMELT的智能筛选机制
SMELT编译器通过智能筛选机制，显著减少了OpenClaw的令牌使用。这种机制不仅避免了重复发送固定文件，还能根据用户的具体问题，提取相关内容并保留上下文。这种方法提高了效率，降低了成本，尤其适合需要频繁交互的AI应用场景。
本地模型的计算负担
对于本地运行的AI模型，SMELT的优势尤为明显。由于本地模型没有缓存层，每条消息都需重新计算，SMELT能有效减少计算负担，节省时间和资源。这对于使用高性能计算设备的用户来说，能够显著提升使用体验。
开源许可证的影响
SMELT的许可证引发了一些争议，限制过多可能会影响开源社区的贡献意愿。开发者TooCas的回应显示出他对开源精神的重视，未来若能调整许可证，将有助于吸引更多开发者参与改进和扩展SMELT。
延伸问答
SMELT编译器如何减少OpenClaw的令牌使用？
SMELT通过相关性筛选，仅发送与问题相关的记录，避免重复发送固定文件，从而显著减少令牌使用，最高节省95%。
SMELT与传统压缩技术有什么不同？
SMELT不仅是压缩，而是智能筛选，它根据实际查询对记录进行相关性评分，确保发送内容的相关性。
使用SMELT编译器的主要好处是什么？
使用SMELT可以显著减少计算负担，降低成本，并提高对话效率，避免不必要的令牌浪费。
TooCas对SMELT的未来计划是什么？
TooCas计划让SMELT实现自动学习任意Markdown文档的结构，以提高其通用性和适用性。
SMELT编译器的使用是否收费？
SMELT编译器个人使用完全免费，开发者鼓励用户自行集成。
SMELT如何处理注意力稀释的问题？
SMELT通过减少发送的令牌数量，确保模型的注意力集中在相关内容上，从而缓解注意力稀释的问题。
