SONATA: 自适应硬件感知的神经架构搜索进化框架

💡 原文中文,约700字,阅读约需2分钟。
📝

内容提要

最近的人工智能进展由神经网络推动,要求创新的神经架构设计以平衡性能和效率。硬件感知神经架构搜索是一种自适应策略自动化设计神经网络的方法,通过使用多目标优化方法。我们提出了SONATA,一种用于硬件感知神经架构搜索的自适应进化算法。在ImageNet-1k数据集上的评估显示SONATA的优点,精确度提高了0.25%,延迟和能源性能提高了2.42倍。

🎯

关键要点

  • 最近的人工智能进展由神经网络推动,要求创新的神经架构设计以平衡性能和效率。
  • 硬件感知神经架构搜索是一种自适应策略自动化设计神经网络的方法,使用多目标优化方法。
  • 神经网络设计参数与硬件感知NAS优化目标之间的复杂关系尚未充分研究。
  • 提出了SONATA,一种用于硬件感知NAS的自适应进化算法。
  • SONATA利用基于树的代理模型和强化学习代理引导的自适应进化算子。
  • 在ImageNet-1k数据集上的评估显示SONATA的优点,精确度提高了0.25%。
  • SONATA在延迟和能源性能上提高了2.42倍。
  • SONATA在与本地NSGA-II的Pareto支配上达到了93.6%的优势,强调了自适应进化算子的关键作用。
➡️

继续阅读