【TVM教程】理解 Relax 抽象层
💡
原文中文，约5700字，阅读约需14分钟。
📝
内容提要
Apache TVM 更新至 0.21.0 版本，中文文档已同步。TVM 是一个深度学习编译框架，支持多种硬件。Relax 是其图抽象方式，用于优化机器学习模型。文章介绍了如何使用 Relax 表达神经网络模型的结构与数据流，并提供了高层与底层实现的代码示例，强调数据流块和无副作用函数的重要性，以便于编译器优化。
🎯
关键要点
- Apache TVM 更新至 0.21.0 版本，中文文档已同步。
- TVM 是一个深度学习编译框架，支持 CPU、GPU 和各种机器学习加速芯片。
- Relax 是一种图抽象方式，用于对机器学习模型进行端到端的优化，描述模型的结构与数据流。
- 文章通过示例展示了如何使用 Relax 表达神经网络模型的高层与底层实现。
- 高层操作使用 Numpy 实现，底层实现则使用循环和显式数组分配。
- Relax 抽象支持符号形状，允许编译器追踪动态形状关系。
- 结构信息（Structure Info）用于表示 Relax 表达式的类型，支持 TensorStructInfo 等。
- R.call_tir 是 Relax 中的新抽象，用于在同一 IRModule 中调用底层的原始张量函数。
- 数据流块（Dataflow block）用于标记计算图区域，所有操作必须是无副作用的，以便于编译器优化。
❓
延伸问答
什么是Apache TVM？
Apache TVM是一个深度学习编译框架，支持CPU、GPU和各种机器学习加速芯片。
Relax在TVM中有什么作用？
Relax是一种图抽象方式，用于对机器学习模型进行端到端的优化，描述模型的结构与数据流。
如何使用Relax表达神经网络模型？
可以通过高层和底层实现的代码示例来使用Relax表达神经网络模型，例如使用R.dataflow()标记计算图区域。
Relax支持哪些特性？
Relax支持符号形状，允许编译器追踪动态形状关系，并引入结构信息用于表示表达式的类型。
数据流块在Relax中有什么重要性？
数据流块用于标记计算图区域，所有操作必须是无副作用的，以便于编译器优化。
R.call_tir在Relax中是如何工作的？
R.call_tir用于在同一IRModule中调用底层的原始张量函数，支持跨层抽象。
➡️
