小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ

本文介绍Kubernetes v1.30.3中kube-apiserver的watch cache机制,核心是Cacher组件:它通过watchCache环形缓冲存储事件,用Ready门控制启动同步,dispatch实现内存多路分发,bookmark维持资源版本推进。当缓存未命中或未就绪时回退到etcd,可能引发List风暴,需调整缓存容量和bookmark频率优化。

【kube-apiserver】Watch cache / cacher:dispatch、bookmark 与穿透 etcd

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-28T00:00:00Z
Hermes Agent 的长会话架构:Prompt Cache、压缩与 SessionDB

本文介绍Hermes Agent的长会话架构,核心是稳定Prompt前缀以命中缓存、分层压缩上下文(保留头尾总结中段)、用SessionDB存储快照,并通过SQLite租约机制防止多进程并发写坏历史。压缩失败时有回退或暂停策略,确保长期会话的可靠性与可恢复性。

Hermes Agent 的长会话架构:Prompt Cache、压缩与 SessionDB

QingHao's Blog QingHao's Blog · 2026-08-21T10:08:50Z

Cloudflare recently introduced Cache Response Rules, a rules engine that operates after an origin server responds but before content is written to Cloudflare's cache. Previously, Cache Rules...

Cloudflare Introduces Cache Response Rules for Post-Origin Cache Control

InfoQ InfoQ · 2026-08-15T06:28:00Z

KV Cache 是自回归推理中缓存历史 token 的 Key 和 Value,避免重复计算前缀。它利用历史 K/V 不变性,将重复计算转为显存占用,成为长上下文推理的核心瓶颈。推理分 prefill 和 decode 两阶段,KV Cache 内存随层数、序列长度和 batch 线性增长。GQA、PagedAttention 和量化等技术用于优化 cache 管理,平衡性能与资源。

【Transformer 与注意力机制】49|KV Cache:推理为什么是 O(n) 不是 O(n²)

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-08T00:00:00Z

本文介绍Neo4j图数据库的page cache机制:页大小为8192字节,用于缓存磁盘上的图数据和原生索引。配置上建议显式设置server.memory.pagecache.size,并通过hit_ratio(应达98%以上)、usage_ratio、page_faults等指标监控健康度。Record格式易受随机指针颠簸影响,Block格式通过数据共置减少页访问,超节点则需建模优化。扩缓存只是优化手段之一。

【图数据库内核】Page cache 与指针追逐:布局如何变成命中率

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-08T00:00:00Z

本文介绍Neo4j图数据库中全文索引与向量索引的边界:两者均由Lucene驱动,不自动被Cypher规划器选用,需显式调用过程或SEARCH查询。全文索引用于分词匹配与打分,向量索引用于嵌入近邻搜索。内存上依赖OS缓存而非page cache,分数不可跨源比较,可与图拓扑扩展结合实现混合检索。

【图数据库内核】全文与向量属性边界:Lucene 旁路,不是 page cache 里的第二套邻接

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-08T00:00:00Z

本文介绍WiredTiger存储引擎的缓存机制。缓存按需加载B-Tree页,WT_REF表示页是否在内存,WT_PAGE是已加载形态。缓存计量区分clean和dirty页,dirty页必须经reconcile转换后才能写盘。修改通过WT_UPDATE链和WT_INSERT跳表记录,session和cursor不计入缓存配额。与PostgreSQL不同,WT将内存布局与磁盘格式分离,并支持共享缓存模式。

【WiredTiger 内核】Cache 与 WT_REF:clean/dirty 计量与按需读页

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-22T00:00:00Z

本文介绍MongoDB手册中WiredTiger存储引擎的运维参数映射:缓存大小、约60秒检查点、日志与历史窗口等旋钮对应内核机制;列出数据目录关键文件(.wt、WiredTigerHS.wt、日志等);明确不展开复制集、分片等边界;强调调参前需回看机制篇,避免误操作。

【WiredTiger 内核】MongoDB 嵌入边界:cache、checkpoint 与历史窗口

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-22T00:00:00Z

本文介绍WiredTiger排障方法,强调禁止删除HS或日志文件、多实例写同一路径。按现象分类:HS增长查历史窗口与长事务;缓存压力查dirty与eviction;长游标拖住历史回收;日志堆积因备份游标泄漏;启停慢因RTS与HS体积。建议观测serverStatus、文件大小与应用慢查询,并记录版本与采样时间。

【WiredTiger 内核】运维与排障:HS 膨胀、cache 压力与长游标

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-22T00:00:00Z

本文介绍WiredTiger内核系列文章,涵盖MongoDB默认引擎的MVCC实现路径,包括Cache、Eviction、Reconciliation、History Store和Checkpoint等核心机制。系列共17篇,从Session/Cursor到选型对照,重点解析更新链、脏页驱逐、旧快照读取及崩溃恢复,并对比PG、InnoDB、RocksDB等引擎,为运维和架构师提供完整技术参考。

【WiredTiger 内核】Cache · Eviction · Reconciliation · History Store · Checkpoint

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-22T00:00:00Z

DoorDash has developed Entity Cache, a transparent proxy caching platform built on Envoy and Valkey to reduce redundant service-to-service requests across its microservices architecture. Operating...

DoorDash Uses Envoy and Valkey for a 1.5M RPS Proxy Cache with 99.99999% Availability

InfoQ InfoQ · 2026-07-20T13:53:00Z

本文介绍SQLite 3.0的锁状态机,五态为UNLOCKED、SHARED、RESERVED、PENDING、EXCLUSIVE。RESERVED允许新读者,PENDING拒绝新读者以防写者饿死。Pager仅跟踪四态,PENDING是瞬时状态。实测验证RESERVED唯一性,读写可共存。shared cache已过时,WAL模式另用独立锁机制。

【SQLite 内核】锁状态与 shared cache:五态锁阶梯与 writer starvation

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-18T00:00:00Z

本文介绍SQLite内核中Pager模块的职责:作为B-Tree与文件系统间的契约层,管理页面缓存、脏页生命周期及日志协作。Pager通过sqlite3PagerGet和sqlite3PagerWrite接口,确保事务原子性,支持回滚日志和WAL两种模式。与PG/InnoDB不同,SQLite页面缓存为连接私有,多进程通过变更计数器或wal-index检测失效。cache_size仅为建议值,非硬性限制。

【SQLite 内核】Pager 与 Page Cache

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-17T00:00:00Z
Cloudflare推出Workers Cache前端缓存层 可以显著提升响应速度并降低使用成本

Cloudflare推出Workers Cache前端缓存层,提升响应速度并降低成本。该缓存层分为上下两层,下层位于边缘数据中心,上层通过全球请求聚合。命中缓存时无需执行Workers,未命中时执行并填充缓存。支持HTTP Cache-Control和SWR策略,适合动态内容和多租户场景,现已向所有开发者开放,响应体限制为512MB。

Cloudflare推出Workers Cache前端缓存层 可以显著提升响应速度并降低使用成本

蓝点网 蓝点网 · 2026-07-07T02:30:03Z

本文讨论了RocksDB的读取性能优化,重点在于Table Cache和Block Cache的作用。Table Cache缓存已打开的TableReader,避免重复打开SST文件;Block Cache缓存数据块,减少I/O开销。使用Bloom Filter和Ribbon Filter可以跳过不存在的键的I/O,Partitioned Index则通过分割大型索引降低读取成本。调参时需综合考虑文件数和缓存策略,以优化读取性能。

【RocksDB 内核机制】Block Cache 与 Bloom:读放大裁剪

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-07T00:00:00Z

算子库工程涉及多个kernel的选择与优化,主要包括dispatch和autotune机制。dispatch根据形状、精度和架构选择最佳kernel,autotune通过实测候选配置优化性能。JIT编译按需生成特定kernel,提高效率,但需缓存编译结果以减少延迟。此外,算子库需关注正确性回归和版本管理,以确保稳定性和可维护性。

【GPU 算子工程】算子库工程:dispatch、autotune cache 与 JIT

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-06-28T00:00:00Z

effective_cache_size doesn't allocate memory, reserve RAM, or control runtime behavior—it merely whispers a number to the query planner to make it smarter…

Christophe Pettus: All Your GUCs in a Row: effective_cache_size

Planet PostgreSQL Planet PostgreSQL · 2026-06-21T01:00:00Z
6GB 显存运行 64K 上下文:llama.cpp 参数与 KV Cache 调优

文章讨论了在本地运行小型开源模型的可行性,特别是使用llama.cpp项目。作者分享了在Windows上使用3060显卡运行Qwen3.6 9B模型的设置,包括CUDA版本和参数配置。尽管显存有限,这些模型在简单任务中仍能有效使用。

6GB 显存运行 64K 上下文:llama.cpp 参数与 KV Cache 调优

Nicksxs's Blog Nicksxs's Blog · 2026-05-31T14:07:14Z
在 Amazon Bedrock 上为 Claude 应用设计稳健的 Prompt Cache 策略

本文介绍了在 Amazon Bedrock 上为 Claude 应用设计的 Prompt Cache 策略,旨在降低输入成本和响应延迟,适用于长上下文应用。讨论了 cache checkpoint 的放置、内容块的定义及其限制,并提出了单个尾部 checkpoint 和三 CP 布局两种策略。建议监控使用情况,以优化性能和降低成本。

在 Amazon Bedrock 上为 Claude 应用设计稳健的 Prompt Cache 策略

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2026-05-19T03:48:36Z

Two recent Linux kernel vulnerabilities have been disclosed: Copy Fail (CVE-2026-31431) on April 29, 2026, and Dirty Frag (CVE-2026-43284 and CVE-2026-43500) on May 7, 2026. Both allow local users...

Copy Fail and Dirty Frag: Linux Page-Cache Exploits Target Every Major Distribution

InfoQ InfoQ · 2026-05-12T08:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码