小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
开源JCR:用Jev树状路由解决agent上下文窗口优化

Niaz Morshed 开源了 JCR,利用 Jev 树状路由在六层能力目录中逐层筛选,将 11360 条 API 命令的检索压缩为少量结果。实测显示,Claude Opus 5 的输入 token 减少 85%、成本降低 67%,但 GPT-5.6-Sol 耗时增加 2.5 倍。JCR 仅返回文档而不执行命令,适用于按 token 计费昂贵且可接受延迟的场景。

开源JCR:用Jev树状路由解决agent上下文窗口优化

极道 极道 · 2026-09-20T21:55:00Z

Scikit-LLM 将大语言模型封装为 scikit-learn 估计器,提供 fit 与 predict/transform 接口,可无缝接入 Pipeline 和交叉验证。常用 ZeroShotGPTClassifier 以标签作为任务说明;DynamicFewShotGPTClassifier 按样本检索最接近的示例。GPTVectorizer 可将文本转为固定向量,GPTTranslator 支持跨语言分类。需注意 API 调用带来的 token 成本会随交叉验证和网格搜索成倍增加。

Scikit-LLM 中的估计器:KDnuggets 速查表

KDnuggets KDnuggets · 2026-09-16T13:58:19Z
省 token 故事 · 各自为政 - 编程一生

多智能体并行虽高效,但每个智能体需独立上下文,重复阅读文件导致token成本高。自查不可靠,需独立质检。任务书应自包含且窄,验收独立派人,能串行则不并行。核心判据:任务拆分后所需背景越少越适合并行,否则协作成本高,无人掌握全局最贵。

省 token 故事 · 各自为政 - 编程一生

编程一生 编程一生 · 2026-09-05T02:31:00Z

AI应用面临高token成本导致毛利低甚至为负的问题,如Perplexity、Cursor等公司毛利率不佳,创业公司“越增长越接近死亡”。陶哲轩新书《数学六大核心概念》强调AI与人类能力互补,但AI存在ROI不透明、忽略问题难度等不足。

Fragments 0x0001

@Lenciel @Lenciel · 2026-09-01T12:10:31Z
每次开工先付的那笔钱,你知道有多少吗:省 token 故事 · 叠床架屋 - 编程一生

文章讨论AI编程工具中常驻上下文与按需加载的token成本问题。常驻位包括规矩文件链、导入文件、规则、自动记忆和工具定义,每次开工都收费;按需加载如skill仅描述常驻,正文触发才读。判断标准是使用频率,而非重要性。建议用/context检查实际加载清单,避免浪费token。

每次开工先付的那笔钱,你知道有多少吗:省 token 故事 · 叠床架屋 - 编程一生

编程一生 编程一生 · 2026-09-01T01:39:00Z
优化提示缓存

本文介绍如何通过优化提示缓存来降低LLM API的token成本。提示缓存可复用已计算的KV缓存,避免重复预填充,从而减少费用和延迟。优化要点包括:保持系统提示(工具和技能定义)不变、会话中不修改工具或模型、利用会话压缩控制历史长度,并注意缓存失效和压缩成本。

优化提示缓存

Alex Ewerlöf Notes Alex Ewerlöf Notes · 2026-08-08T14:07:13Z
DeepSeek外壳比较:OpenCode老实本分 Reasonix鸡贼省钱

本文对比AI编程工具OpenCode与Reasonix,指出Reasonix通过缓存机制大幅降低token成本,测试中0.45美元可处理9000万token,是OpenCode的3.6倍,但依赖重复查询场景。文章提醒用户可能被计费规则影响提问方式,而本地部署虽不划算但提供控制感,最终强调选择工具应基于使用习惯,避免被算法定义。

DeepSeek外壳比较:OpenCode老实本分 Reasonix鸡贼省钱

极道 极道 · 2026-08-04T02:39:00Z

高仿Manus的开源软件Suna在Github Trending榜首,开发者在3周内完成。项目需高token成本,普通用户难以承担。Suna旨在以低成本让用户体验AI产品,推动AI应用发展。

今日爆火的高仿Manus的开源软件Suna使用成本

V2方圆 V2方圆 · 2025-04-25T10:43:32Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码