SCAN-Edge:通过硬件感知进化搜索为多样化边缘设备寻找MobileNet速度混合网络
💡
原文中文,约600字,阅读约需2分钟。
📝
内容提要
MobileNetV4 (MNv4)是一种高效的移动架构设计,采用了通用倒置瓶颈(UIB)搜索块、Mobile MQA注意力块和优化的NAS方法。MNv4在移动CPU、DSP、GPU和专用加速器上实现了帕累托最优性能。此外,引入了一种新颖的蒸馏技术来提高准确性。MNv4-Hybrid-Large模型在Pixel 8 EdgeTPU上以3.8ms的运行时间实现了87%的ImageNet-1K准确率。
🎯
关键要点
- MobileNetV4 (MNv4) 是一种高效的移动设备架构设计。
- 引入了通用倒置瓶颈 (UIB) 搜索块,融合了多种结构。
- 提出了Mobile MQA注意力块,实现了39%的加速。
- 优化的神经架构搜索(NAS)方法提高了搜索效率。
- MNv4模型在移动CPU、DSP、GPU和专用加速器上实现了帕累托最优性能。
- 引入新颖的蒸馏技术以提高准确性。
- MNv4-Hybrid-Large模型在Pixel 8 EdgeTPU上以3.8ms的运行时间实现了87%的ImageNet-1K准确率。
➡️