京东ES支持ZSTD压缩算法上线了:高性能,低成本
💡
原文中文,约6100字,阅读约需15分钟。
📝
内容提要
京东ES上线支持ZSTD压缩算法,提高数据存储和传输效率,降低成本。适用于写多读少场景。使用方法简单,申请后指定压缩等级。技术实现:ES与Lucene关系,压缩文件对比。ES侧实现:引入zstd-jni实现压缩能力。
🎯
关键要点
- 京东ES上线支持ZSTD压缩算法,提高数据存储和传输效率,降低成本。
- ZSTD算法适用于写多读少的场景,如日志和监控。
- 使用方法简单,用户可申请并指定压缩等级。
- 测试结果显示,ZSTD压缩等级3的写入性能提升38.46%,存储节省24%。
- ZSTD算法具有更好的可扩展性和鲁棒性,适合大规模分布式系统。
- 京东ES与Lucene的关系,ZSTD压缩在ES侧实现。
- 用户在创建索引时需指定压缩算法,且不能动态修改。
- ZSTD压缩算法的实现依赖于zstd-jni库,需在ES代码中进行自定义配置。
➡️