SCAN-Edge:通过硬件感知进化搜索为多样化边缘设备寻找MobileNet速度混合网络

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

MobileNetV4 (MNv4)是一种高效的移动架构设计,采用了通用倒置瓶颈(UIB)搜索块、Mobile MQA注意力块和优化的NAS方法。MNv4在移动CPU、DSP、GPU和专用加速器上实现了帕累托最优性能。此外,引入了一种新颖的蒸馏技术来提高准确性。MNv4-Hybrid-Large模型在Pixel 8 EdgeTPU上以3.8ms的运行时间实现了87%的ImageNet-1K准确率。

🎯

关键要点

  • MobileNetV4 (MNv4) 是一种高效的移动设备架构设计。
  • 引入了通用倒置瓶颈 (UIB) 搜索块,融合了多种结构。
  • 提出了Mobile MQA注意力块,实现了39%的加速。
  • 优化的神经架构搜索(NAS)方法提高了搜索效率。
  • MNv4模型在移动CPU、DSP、GPU和专用加速器上实现了帕累托最优性能。
  • 引入新颖的蒸馏技术以提高准确性。
  • MNv4-Hybrid-Large模型在Pixel 8 EdgeTPU上以3.8ms的运行时间实现了87%的ImageNet-1K准确率。
➡️

继续阅读