自动调优工具AOE,让你的模型在昇腾平台上高效运行

💡 原文中文,约3600字,阅读约需9分钟。
📝

内容提要

AOE是一种自动调优工具,通过生成调优策略和闭环反馈机制提升算子和网络性能。它适用于离线推理、TensorFlow训练、PyTorch训练和在线推理等场景。使用AOE进行调优的步骤包括准备模型文件、配置环境变量和执行调优命令。调优完成后,会生成自定义知识库和优化后的模型文件。建议使用优化后的自定义知识库重新进行推理验证性能提升。

🏷️

标签

➡️

继续阅读