【TVM 教程】使用元组输入（Tuple Inputs）进行计算和归约
原文中文，约5800字，阅读约需14分钟。
📝
内容提要
本文介绍了Apache TVM中元组输入的用法，适用于批量计算和归约操作。通过示例展示了如何使用元组输入进行多个输出的调度和计算，强调调度应基于操作而非张量。
🎯
关键要点
-
Apache TVM 是一个深度学习编译框架，支持 CPU、GPU 和各种加速芯片。
-
元组输入用于在单个循环中计算多个输出或执行归约操作，如 argmax。
-
通过将相同 shape 的算子作为 te.compute 的输入，可以进行批量计算。
-
使用协同输入描述归约操作，能够比较操作数的值并保留索引。
-
调度操作时，多个输出只能一起调度，调度应基于操作而非张量。
🔎
延伸解读
元组输入的优势
使用元组输入可以在单个循环中高效地处理多个输出，特别适合批量计算和归约操作。这种方法不仅提高了计算效率，还简化了调度过程，避免了对每个张量单独调度的复杂性。
调度策略的关键
在调度操作时，必须注意调度应基于操作而非张量。这意味着在设计计算图时，开发者需要关注操作的逻辑关系，以确保计算的正确性和效率。
归约操作的实现
在进行归约操作时，使用协同输入可以有效地比较多个输入的值并保留索引。这种方法在实现如 argmax 等功能时尤为重要，能够确保输出的准确性和有效性。
❓
延伸问答
Apache TVM 是什么？
Apache TVM 是一个端到端的深度学习编译框架，支持 CPU、GPU 和各种机器学习加速芯片。
元组输入在 TVM 中的主要用途是什么？
元组输入用于在单个循环中计算多个输出或执行归约操作，如 argmax。
如何使用元组输入进行批量计算？
可以将相同 shape 的算子作为 te.compute 的输入，进行批量计算。
什么是协同输入，它在归约操作中有什么作用？
协同输入用于描述归约操作，能够比较操作数的值并保留索引。
在调度操作时，元组输入有什么限制？
多个输出只能一起调度，调度应基于操作而非张量。
如何在 TVM 中实现 argmax 的归约操作？
可以使用 te.comm_reducer() 来描述 argmax 的归约操作，比较操作数的值并保留索引。
🏷️
