【TVM 教程】使用 tvmc 接口在 Adreno™ 上部署预训练模型
💡
原文中文,约36400字,阅读约需87分钟。
📝
内容提要
本文介绍了在Adreno™上部署预训练Keras resnet50模型的步骤,包括环境配置、模型制作、加载、自动调优、编译和部署。文章最后展示了在RPC设置上的运行结果。
🎯
关键要点
- 本文介绍了在Adreno™上部署预训练Keras resnet50模型的步骤。
- 需要为Android构建TVM并设置RPC环境。
- 在Adreno GPU上部署时,需要指定目标以利用内核和纹理的优势。
- 制作Keras Resnet50模型并保存为.h5文件。
- 使用tvmc.load将模型转换为tvm relay模块。
- 自动调优需要RPC设置,并且可以通过API进行。
- 编译生成TVM产品,支持OpenCLML加速。
- 通过RPC部署和运行已编译的模型,使用随机数据填充输入。
➡️