➡️
继续阅读
-
AI 智创简报:《Agent 记忆层被写进专利,垂直行业的本地化长尾还空着》
微软与UiPath近期公开了四项Agent记忆与跨上下文专利,涵盖共享上下文、事件流路由及三级记忆体系,显示大厂正抢占记忆层基础设施。尽管开源组件热门,但...
-
英伟达买下Hugging Face的真正算盘
英伟达买下Hugging Face的真正算盘 英伟达为什么用129.3亿美金收购Hugging Face?这期从129303的Unicode表情与英伟达...
-
2026-09-06-前端与AI技术周报
本期覆盖 Electron 44.2、Bun 1.4、Vite 8.3 beta、Cursor 自托管机器与 Chrome 单轴滚动容器测试。
-
2026 09 06 HackerNews
2026-09-06 Hacker News Top Stories # Anthropic 团队用 Claude AI 在11天内完成了费马大...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
显存账本:每张卡上住着什么,搬走付什么
本文介绍训练大模型时显存管理的通用记账方法。显存分为五类:权重、梯度、优化器状态、激活和通信缓冲。前三类由参数量和并行度决定,激活随输入长度增长,优化空间...