AOE是一种自动调优工具,通过生成调优策略和闭环反馈机制提升算子和网络性能。它适用于离线推理、TensorFlow训练、PyTorch训练和在线推理等场景。使用AOE进行调优的步骤包括准备模型文件、配置环境变量和执行调优命令。调优完成后,会生成自定义知识库和优化后的模型文件。建议使用优化后的自定义知识库重新进行推理验证性能提升。
CANN推出的调优引擎AOE,通过算子调优、子图调优和梯度调优,可以提升AI硬件的性能,提高Cache命中率,智能梯度切分算法,自动搜索出最优梯度参数切分方式,推理网络性能提升30%以上,训练网络提升20%以上,加速AI应用场景落地,共建智慧世界。
完成下面两步后,将自动完成登录并继续当前操作。