小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文介绍了Milvus 2.6.x中Data Node的功能与架构。Data Node负责历史数据的离线处理,包括索引构建和数据压缩。它通过协调组件调度,处理数据加载、索引生成和清理,确保查询节点高效访问数据。文章还讨论了索引构建策略、数据新鲜度及其对查询性能的影响,以及优化资源调度以减少在线查询延迟的方法。

【向量检索引擎】Data Node:compaction 与 index build

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-07-12T00:00:00Z

本文讨论了RocksDB的Leveled Compaction机制,重点在于如何维护层级结构以优化读写性能。L0层文件重叠会导致读放大,因此需要通过compaction将数据逐层下推,以保持L1及以下层不重叠。文章分析了compaction的触发条件、分数计算及动态层级字节配置,并强调了L0文件数对读放大和写停滞的影响。实验结果表明,短时间内可能看不到compaction,需要延长测试以获取准确数据。

【RocksDB 内核机制】Leveled Compaction:层级不变式与 CompactionPicker

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-07-07T00:00:00Z

本文讨论了RocksDB相较于LevelDB的多线程flush和compaction机制,重点介绍了CompactionJob的生命周期、Env线程池的调度策略以及RateLimiter的工作原理。实验对比了不同速率限制下的写入性能,强调了RateLimiter在控制写入带宽和避免写入阻塞中的重要性,指出RocksDB在多核并行compaction方面的优势。

【RocksDB 内核机制】并发 Compaction 与 Rate Limiter

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-07-07T00:00:00Z

本文探讨了RocksDB的内核机制,包括LevelDB、WAL、Compaction和Column Family等,重点分析了其在流计算和数据平台中的应用,尤其是在Flink和TiKV中的嵌入方式。同时讨论了写优化LSM的实现、读写路径、Compaction策略及其对性能的影响,适合流计算工程师和存储开发者阅读。

【RocksDB 内核机制】LevelDB · WAL · Compaction · Column Family · 生产嵌入

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-07-07T00:00:00Z

本文讨论了RocksDB的写入停滞问题及排查方法,主要症状包括延迟增加、磁盘占用上升和checkpoint同步变长。通过分析RocksDB的属性和日志,可以识别出L0堆积、compaction滞后和Block Cache未命中等原因。建议使用GetProperty和LOG信息进行故障排查,并关注磁盘空间和写入速率等关键指标。

【RocksDB 内核机制】经典故障与排查

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-07-07T00:00:00Z

本文探讨了Flink中RocksDB的状态管理与优化,分析了状态膨胀的原因及其对磁盘占用的影响,主要涉及窗口状态、TTL和MapState的无限增长等问题。提出通过调整RocksDB参数和设计来优化性能,强调在hot key倾斜情况下,改进状态设计比单纯调参更有效,并提供了调优建议和监控指标。

【流式数据处理】状态放大、Compaction 与调优

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-07-01T00:00:00Z

Dropbox recently explained how it improved storage efficiency in Magic Pocket, the company's internal immutable blob store for storing user files at scale, by redesigning compaction strategies to...

Dropbox Redesigns Compaction to Reclaim Space from Underfilled Storage Volumes

InfoQ
InfoQ · 2026-04-30T09:23:00Z

本文讨论了LSM-Tree中的Compaction机制,解决了SSTable只增不删的问题。Compaction通过合并多个SSTable文件,回收无效数据,提升读性能。文章介绍了不同层级的设计、Compaction的触发条件、文件选择策略及去重逻辑,确保数据的有序性和一致性,并管理版本信息以支持并发读写操作。

Compaction:LSM-Tree 的心脏手术

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-04-05T00:00:00Z

本文介绍了RocksDB的基本架构和运作方式,以及性能挑战和解决方法。RocksDB是高性能的KV数据库,适用于海量数据检索和高速存取场景。主要组件包括MemTable、SSTable和预写日志(WAL)日志。数据写入先写入MemTable,再flush到磁盘上的SSTable文件。SSTable文件按层级存放,每层数据被范围分区为多个SSTable文件。RocksDB通过LSM Trees实现追加写入,通过Compaction操作降低放大因子的影响。主要Compaction策略有Size-Tiered Compaction和Leveled Compaction。文章还介绍了WiscKey和PebblesDB等优化LSM树的方法,降低写入放大。

深入 RocksDB 高性能的技术关键

luozhiyun`s Blog 我的技术分享
luozhiyun`s Blog 我的技术分享 · 2024-06-01T10:03:14Z
Flink状态后端和CheckPoint 调优

RocksDB是一种嵌入式的Key-Value数据库,用作Flink中的RocksDBStateBackend的底层存储。它通过多层组织持久化数据,并通过异步Compaction合并重复、过期和已删除的数据。在写入过程中,数据会经过序列化后写入到WriteBuffer,再从内存flush到磁盘上。在读取过程中,会先尝试从WriteBuffer和Immutable Memtable中读取数据,如果没有找到,则会查询Block Cache和底层的SST文件。RocksDBKeyedStateBackend增量快照将差异上传到分布式文件系统,并通过SharedStateRegistry进行状态的注册和过期。RocksDB的性能调优方法包括开启性能监控、增量CheckPoint和本地恢复、设置多目录、调整RocksDB选项、增大block缓存、调整write buffer和level阈值、增大write buffer数量和后台线程数、开启分区索引功能。设置Checkpoint时需要考虑时效性和性能之间的平衡。

Flink状态后端和CheckPoint 调优

小令童鞋
小令童鞋 · 2023-07-17T15:14:12Z

Leveldb 是一个 LSM-Tree 类型的数据库, LSM 最后一个字母就是 merge, 压实就是 merge 具体实现. 该算法在 LSM-Tree 论文阅读笔记 里有介绍, 如果不了解建议先读下这篇小文. 1. 压实介绍当 level-L

Leveldb 源码详解系列之七: 压实(Compaction)

二手知识
二手知识 · 2021-10-27T14:27:17Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码