➡️
继续阅读
-
推理服务的缓存与调度：前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级，因此设计围绕复用展开：单实例内通过块哈希实现前缀缓存；KV池采用writ...
-
EP224：MCP与RAG及AI代理的对比
本文介绍MCP、RAG与AI Agent的区别：MCP是连接AI与外部工具的标准协议；RAG通过检索外部数据提供最新答案；AI Agent能自主决策执行任...
-
早报｜苹果将迎来史上最大产品发布潮/微信小微内测Agent间沟通/何庭波发布「韬定律」新论文
苹果将迎来史上最大产品发布潮，包括折叠屏iPhone和iPhone 18 Pro；GPT-6 Astra全量发布；Anthropic用Claude完成费马...
-
“对混乱的发布感到抱歉”：OpenAI推出GPT-6 Astra，但开发者被拒之门外
OpenAI发布GPT-6 Astra，但发布过程混乱，CEO Sam Altman道歉。API和ChatGPT订阅用户尚未获得广泛访问权限，预计先从Pr...
-
从AI代码到可信软件：工程约束的实践
文章探讨了“工程约束”如何通过仓库强制执行标准，确保AI生成代码的质量与问责。它强调权限、质量门、证据和可观测性，并描述了从辅助到自主的成熟度阶段。核心是...
-
AI电话代理工作原理：AI电话代理背后的架构
AI电话代理架构解析：从呼叫接入、语音转文字、意图识别到对话循环，系统通过函数调用连接日历、CRM等业务系统，实现预约、线索捕获及人工转接。文章强调AI负...
