BriefGPT - AI 论文速递
·
张量程序的多级超优化器
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
Mirage是首个多级超优化程序，通过引入μGraphs统一表示方法，在GPU计算层次结构的内核、线程块和线程级别上对张量程序进行优化。Mirage通过剪枝技术和概率等价性验证过程，减少搜索空间，确保优化的μGraph与输入程序等价。相比广泛使用的DNN，Mirage的性能提升最高可达3.5倍。
🎯
关键要点
- Mirage是首个多级超优化程序。
- 引入μGraphs统一表示方法。
- 在GPU计算层次结构的内核、线程块和线程级别上优化张量程序。
- 优化技术包括代数转换、调度转换和生成新的自定义内核。
- 使用抽象的剪枝技术和概率等价性验证过程减少搜索空间。
- 确保优化的μGraph与输入程序等价。
- 相比广泛使用的DNN，Mirage的性能提升最高可达3.5倍。
➡️
