ATC:一个能将主流开源框架模型转换为昇腾模型的神奇工具

💡 原文中文,约3000字,阅读约需8分钟。
📝

内容提要

昇腾CANN提供的模型转换工具ATC可以将开源框架的网络模型和单算子描述文件转换为昇腾AI处理器支持的模型文件,支持自定义输入输出数据类型、动态BatchSize/动态分辨率等特性。

🎯

关键要点

  • 昇腾CANN提供的ATC工具可以将开源框架的网络模型转换为昇腾AI处理器支持的模型文件。
  • ATC工具支持自定义输入输出数据类型、动态BatchSize和动态分辨率等特性。
  • ATC工具的模型转换流程包括解析、图准备、图拆分、图优化和图编译。
  • 使用ATC工具转换模型时,需要上传模型文件和权重文件,并执行相应的命令。
  • ATC工具支持将原始模型文件或昇腾模型文件转换为json格式。
  • 用户可以自定义模型的输入输出节点的数据类型和格式。
  • ATC工具支持动态BatchSize和动态分辨率的设置,以提高推理效率。
  • 更多ATC工具的参数和特性说明可以在昇腾社区查阅。
➡️

继续阅读