本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级，因此设计围绕复用展开：单实例内通过块哈希实现前缀缓存；KV池采用write-back策略在GPU、DRAM、SSD间分层存储；集群层面用一致性哈希实现缓存亲和，并按请求类别分配预算以应对长请求突发。

A社发布Claude Fable/Mythos 5.1模型，支持1M上下文窗口和128K输出，能力显著提升，尤其在科学和编程领域。API价格不变，但缓存读取价格暴降75%。Mythos 5.1放宽安全限制，仅限认证机构使用。

AI聊天机器人从按下回车到输出首个词之间，经历约十几个阶段：组装包含系统提示、工具定义、记忆和对话历史的文档，进行输入安全检查，将文本分词，排队与其他请求共享硬件，然后分预填充和解码两阶段生成。长对话因重新处理全部历史而变慢变贵，缓存和流式技术优化了性能，工具调用则形成循环。

在静态网站前添加CDN缓存后，网站反而变慢，慢页面从38个增至75个。原因是缓存未命中时CDN处理更耗时，且爬虫总是冷请求，命中率极低。计算发现需67%命中率才能持平，但实际接近零。建议部署前先计算盈亏平衡命中率，并诚实评估真实命中率。

Yac 2.4.0发布，主要改进包括：内嵌小值到指针槽位，避免占用values内存，提升读取性能64%；用LZ4替换FastLZ压缩，解压更快；get()支持$default参数区分未命中与假值；dump()支持分页及元信息。实际测试中内存占用从23.5M降至12.4M，吞吐显著提升，适合WordPress缓存场景。

作者用自研PHP扩展Yac替换WordPress的Memcached对象缓存，实测吞吐提升约19%，延迟降低15%。Yac将缓存存于FPM共享内存，免去网络往返，优势恒定。文章提供安装配置方法，并指出单机场景最适合，多机集群仍需Memcached/Redis。

本文介绍LLM API调用工程化实践：需权衡延迟、质量、成本与数据合规，选择合适访问模式；通过提示缓存和语义缓存降低成本，用指数退避处理限流，并以外置会话存储弥补API无状态缺陷。Redis Iris提供语义缓存、代理记忆等托管服务，构建AI上下文层，优化调用性能与成本。

DeepSeek官网公布API新价格，deepseek-v4-flash与pro模型全面涨价，其中高峰时段pro模型命中缓存价格从0.025涨至0.30，涨幅达12倍。新价格自8月17日起生效。

DeepSeek API宣布自2026年8月17日起大幅涨价，分闲时和高峰时段定价，高峰时段为每日9-12点和14-18点。以V4 Pro为例，命中缓存高峰涨幅达1100%，输出涨幅350%。此前开发者预期最多翻倍，实际涨幅远超预期，引发竞争力下降担忧。

本文探讨了提示缓存与微调在降低AI代理系统成本与延迟方面的差异及选择框架。提示缓存通过存储重复提示结果减少计算开销，适合静态文档和重复查询；微调通过LoRA等技术训练模型提升特定任务效率，适合格式一致性和个性化需求。混合策略可兼顾两者优势，实现高效架构。

Kimi K3采用KDA与MLA混合注意力架构，引入循环状态缓存，改变传统KV缓存语义。Mooncake与SGLang、vLLM、TokenSpeed合作，实现KDA感知的检查点管理、跨实例缓存复用及统一数据传输平面，支持百万级长上下文推理，降低冗余计算，提升多轮对话和智能体任务效率。

Furion v4.9.9.51新增HTTP远程请求的ETag缓存和配额策略，旨在简化开发并提升稳定性。ETag减少重复请求，配额策略防止系统被远程调用拖垮。升级时需谨慎，建议先在非主干项目测试，关注缓存边界、超时和回滚路径。普通团队可借此整理远程调用，但不必盲目追新。

Webpack v5.109.2 发布补丁更新，修复了别名指向.js包目录、CSS sourcemap命名及清理缓存文件等问题。升级前建议在构建量大的项目测试，关注缓存增长和sourcemap映射。若遇alias、sourcemap或缓存膨胀问题可优先验证，稳定项目无需急于升级，先低风险试用。