➡️
继续阅读
-
Switchyard:NVIDIA的开源路由库
NVIDIA NeMo Switchyard是一个开源路由层,位于AI代理和模型之间,按请求智能选择模型以降低成本。教程演示了从随机路由到内容感知路由的升...
-
My Coding Setup 1.0
作者分享了2026年9月其AI辅助编程工具配置快照。他主要用Swift/TypeScript开发,现主力通过TUI(如herdr)指挥AI写代码,仅iOS...
-
英伟达买下Hugging Face的真正算盘
英伟达买下Hugging Face的真正算盘 英伟达为什么用129.3亿美金收购Hugging Face?这期从129303的Unicode表情与英伟达...
-
2026-09-06-前端与AI技术周报
本期覆盖 Electron 44.2、Bun 1.4、Vite 8.3 beta、Cursor 自托管机器与 Chrome 单轴滚动容器测试。
-
2026 09 06 HackerNews
Anthropic团队利用Claude AI在11天内完成了费马大定理的完整计算机验证,生成了1300万行Lean代码,证明了29500个中间定理,展示了...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...