【TVM 教程】外部张量函数
内容提要
Apache TVM 是一个支持 CPU、GPU 和加速芯片的深度学习编译框架。它允许将外部张量函数与 TVM 流水线结合，并支持黑盒函数调用。用户可以通过 te.extern 添加外部函数，以灵活混合自定义代码。
关键要点
-
Apache TVM 是一个支持 CPU、GPU 和加速芯片的深度学习编译框架。
-
TVM 支持透明代码生成，可以将手写代码合并到流水线中。
-
TVM 支持黑盒函数调用，兼容所有与 DLPack 兼容的张量函数。
-
用户可以通过 te.extern 添加外部数组函数调用，并提供计算函数。
-
可以使用 TVM 的外部 contrib Wrappers 来简化外部调用。
-
可以将 Python 函数注册为外部函数回调，以增强 TVM 的灵活性。
-
总结：TVM 通过 te.extern 调用外部张量函数，使用 contrib wrappers 处理外部调用，并支持前端函数的回调。
延伸解读
外部张量函数的灵活性
使用 TVM 的 te.extern 功能，用户可以将自定义的外部张量函数与 TVM 流水线结合。这种灵活性使得开发者能够在深度学习模型中集成特定的优化算法或库，例如 cuDNN，从而提升性能。
黑盒函数调用的优势
TVM 支持黑盒函数调用，允许用户使用与 DLPack 兼容的张量函数。这意味着开发者可以利用现有的高效库，而无需深入了解其内部实现，从而加快开发速度并减少错误。
外部 contrib Wrappers 的简化作用
TVM 提供的外部 contrib Wrappers 可以简化外部函数的调用过程。通过这些 Wrapper，用户可以更方便地集成外部库，减少代码复杂性，提高开发效率，尤其是在处理常见的线性代数操作时。
延伸问答
Apache TVM 是什么？
Apache TVM 是一个支持 CPU、GPU 和加速芯片的深度学习编译框架。
如何在 TVM 中使用外部张量函数？
用户可以通过 te.extern 添加外部数组函数调用，并提供计算函数来描述结果的计算方式。
TVM 如何支持黑盒函数调用？
TVM 支持所有与 DLPack 兼容的张量函数，允许使用 POD 类型或指向 DLTensor 的指针作为参数进行调用。
什么是 contrib Wrappers，如何在 TVM 中使用？
contrib Wrappers 是 TVM 为外部调用提供的工具，可以简化外部函数的调用过程。
如何将 Python 函数注册为外部函数回调？
可以通过 @tvm.register_func 装饰器将 Python 函数注册到 TVM runtime 系统，以增强其灵活性。
TVM 的外部张量函数调用有什么优势？
外部张量函数调用允许用户灵活混合自定义代码，提高了 TVM 的灵活性和可扩展性。
