【TVM 教程】用 TEDD 进行可视化
内容提要
Apache TVM 是一个支持多种硬件的深度学习编译框架。本文介绍了如何使用 TEDD 可视化张量表达式及调度原语，展示数据流图、调度树和 IterVar 关系图的渲染过程，以帮助理解计算和调度的影响。
关键要点
-
Apache TVM 是一个支持多种硬件的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。
-
本文介绍了如何使用 TEDD（Tensor Expression Debug Display）对张量表达式进行可视化。
-
张量表达式使用原语进行调度，组合复杂性增加。
-
调度原语之间的交互和对最终代码生成的影响是关键。
-
操作模型基于数据流图、调度树和 IterVar 关系图。
-
TEDD 可以从给定的 schedule 中呈现数据流图、调度树和 IterVar 关系图。
-
使用 Bias 和 ReLU 定义和调度卷积的示例展示了如何构建张量表达式。
-
通过渲染计算图，可以查看计算及其调度方式。
-
数据流图中的每个节点代表一个阶段，显示输入/输出信息和依赖关系。
-
调度树图展示了每个阶段的名称、计算和 IterVars 的关系。
-
IterVar 关系图展示了每个阶段的 IterVar 节点和转换节点。
-
本教程演示了 TEDD 的用法，并提供了示例代码和 Jupyter Notebook 下载链接。
延伸问答
什么是 Apache TVM？
Apache TVM 是一个支持多种硬件的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。
TEDD 是什么，它的用途是什么？
TEDD（Tensor Expression Debug Display）用于可视化张量表达式，帮助理解调度原语的影响。
如何使用 TEDD 渲染计算图？
可以通过调用 tedd.viz_dataflow_graph()、tedd.viz_schedule_tree() 和 tedd.viz_itervar_relationship_graph() 来渲染计算图。
调度原语在张量表达式中有什么作用？
调度原语用于组合张量表达式，影响最终代码的生成和计算性能。
数据流图中每个节点代表什么？
数据流图中的每个节点代表一个计算阶段，显示输入/输出信息和依赖关系。
如何定义和调度卷积操作？
通过连接 conv2d、add 和 relu TOPIs，并创建一个通用的调度来定义和调度卷积操作。
