提升Pinterest Goku时间序列数据库的效率

提升Pinterest Goku时间序列数据库的效率

💡 原文英文,约600词,阅读约需3分钟。
📝

内容提要

Pinterest更新了Goku时间序列数据库,优化了存储和资源使用,数据存储需求降低了37%。新特性包括指标命名空间和高写入指标识别,显著降低基础设施成本。通过内存优化和压缩算法,Pinterest实现了40%的存储减少和70%的成本降低,同时支持30%的存储增长。

🎯

关键要点

  • Pinterest更新了Goku时间序列数据库,优化了存储和资源使用,数据存储需求降低了37%。
  • Goku是Pinterest自建的数据库引擎,旨在解决OpenTSDB的特定限制。
  • 新特性包括指标命名空间和高写入指标识别,帮助减少存储数据。
  • 指标命名空间组织指标配置,提升数据管理效率。
  • 通过架构改进,指标名称的索引内存使用从每个主机12 GB降至3 GB。
  • 引入字典编码消除了内存溢出问题,允许使用更便宜的硬件。
  • Pinterest优化了内存分配,减少了每个主机8-11 GB的内存使用。
  • 时间序列压缩算法通过识别模式和冗余来有效存储数据,降低存储成本。
  • Pinterest的改进使时间序列存储减少40%,成本降低70%。
  • 这些改进支持Pinterest在不增加额外容量的情况下,容纳30%的存储增长。
➡️

继续阅读