大数据 SQL 数据倾斜与数据膨胀的优化与经验总结
💡
原文中文，约3500字，阅读约需9分钟。
📝
内容提要
本文介绍了大数据查询分析引擎中的数据倾斜和数据膨胀问题，并提供了相应的解决方案。对于数据倾斜，可以从Map端优化、Reduce端优化和Join端优化三个方面进行优化。对于数据膨胀，可以避免笛卡尔积、关注关联key的区分度和避免误用聚合操作。此外，还介绍了如何排查和定位长时间运行或失败的业务SQL，并给出了优化思路。总结指出大数据SQL优化是一项知识面较广的工作，需要学习查询分析引擎设计原理。
🎯
关键要点
- 大数据查询分析引擎如Spark、Hive、Presto等被广泛应用于各领域分析。
- 数据倾斜是指大量相同key被分发到同一reduce节点，导致任务运行时间不均。
- 数据膨胀是指输出数据量远大于输入数据量，影响运行效率。
- 排查长时间运行或失败的SQL时，需检查输入数据量级和各阶段运行时间。
- Map端优化包括读取数据合并、列裁剪、谓词下推和数据重分布。
- Reduce端优化包括关联key空值检验和排序优化。
- Join端优化包括大表join小表和大表join大表的处理方式。
- 避免笛卡尔积、关注关联key的区分度和避免误用聚合操作是防止数据膨胀的关键。
- 大数据SQL优化需要学习查询分析引擎设计原理，涉及知识面广泛。
➡️
