【TVM 教程】在 TVM 中使用 Bring Your Own Datatypes
内容提要
Apache TVM 是一个深度学习编译框架，支持用户自定义数据类型。通过 Bring Your Own Datatypes 框架，用户可以在 TVM 中注册和使用这些自定义数据类型。本文提供了实现和使用自定义数据类型的示例代码及运行步骤。
延伸解读
自定义数据类型的应用场景
Bring Your Own Datatypes 框架为用户提供了在 TVM 中使用自定义数据类型的灵活性。这对于需要特定数值精度或格式的深度学习模型尤为重要，尤其是在嵌入式系统或资源受限的环境中。用户可以根据需求设计数据类型，以优化性能或满足特定的计算要求。
当前框架的局限性
尽管 Bring Your Own Datatypes 框架允许用户注册自定义数据类型，但目前仅支持软件模拟版本，无法直接编译自定义加速器数据类型。这意味着在性能优化方面，用户可能会面临挑战，尤其是在需要高效计算的场景中。
降级函数的重要性
在使用自定义数据类型时，注册降级函数至关重要。这些函数帮助 TVM 将自定义操作转换为其理解的标准操作。如果未正确注册降级函数，程序将无法正常运行，导致错误。因此，用户在实现自定义数据类型时，需特别注意降级函数的定义和注册。
Q&A
什么是 Bring Your Own Datatypes 框架？
Bring Your Own Datatypes 框架允许用户在 TVM 中注册和使用自定义数据类型。
如何在 TVM 中使用自定义数据类型？
用户可以通过注册自定义数据类型及其类型代码，并编写相应的降级函数来使用自定义数据类型。
Bring Your Own Datatypes 框架支持哪些数据类型？
该框架支持用户自定义的数据类型实现，如 libposit 和 SoftFloat，但目前仅处理软件模拟版本，不支持编译自定义加速器数据类型。
如何在 TVM 中注册自定义数据类型？
可以使用 tvm.target.datatype.register 函数注册自定义数据类型，并指定名称和类型代码。
在 TVM 中如何处理自定义数据类型的 Cast 操作？
需要注册降级函数以处理自定义数据类型的 Cast 操作，确保 TVM 能够理解如何将其转换为可编译的数据类型。
如何测试自定义数据类型在 TVM 中的输出？
可以选择模型（如 Mobilenet），并使用自定义数据类型运行模型，验证输出与标准浮点数输出是否一致。
