京东ES支持ZSTD压缩算法上线了:高性能,低成本

💡 原文中文,约6100字,阅读约需15分钟。
📝

内容提要

京东ES上线支持ZSTD压缩算法,提高数据存储和传输效率,降低成本。适用于写多读少场景。使用方法简单,申请后指定压缩等级。技术实现:ES与Lucene关系,压缩文件对比。ES侧实现:引入zstd-jni实现压缩能力。

🎯

关键要点

  • 京东ES上线支持ZSTD压缩算法,提高数据存储和传输效率,降低成本。
  • ZSTD算法适用于写多读少的场景,如日志和监控。
  • 使用方法简单,用户可申请并指定压缩等级。
  • 测试结果显示,ZSTD压缩等级3的写入性能提升38.46%,存储节省24%。
  • ZSTD算法具有更好的可扩展性和鲁棒性,适合大规模分布式系统。
  • 京东ES与Lucene的关系,ZSTD压缩在ES侧实现。
  • 用户在创建索引时需指定压缩算法,且不能动态修改。
  • ZSTD压缩算法的实现依赖于zstd-jni库,需在ES代码中进行自定义配置。
➡️

继续阅读