【TVM 教程】使用 tvmc 接口在 Adreno™ 上部署预训练模型

💡 原文中文,约36400字,阅读约需87分钟。
📝

内容提要

本文介绍了在Adreno™上部署预训练Keras resnet50模型的步骤,包括环境配置、模型制作、加载、自动调优、编译和部署。文章最后展示了在RPC设置上的运行结果。

🎯

关键要点

  • 本文介绍了在Adreno™上部署预训练Keras resnet50模型的步骤。
  • 需要为Android构建TVM并设置RPC环境。
  • 在Adreno GPU上部署时,需要指定目标以利用内核和纹理的优势。
  • 制作Keras Resnet50模型并保存为.h5文件。
  • 使用tvmc.load将模型转换为tvm relay模块。
  • 自动调优需要RPC设置,并且可以通过API进行。
  • 编译生成TVM产品,支持OpenCLML加速。
  • 通过RPC部署和运行已编译的模型,使用随机数据填充输入。
➡️

继续阅读