MatchNAS: 通过自动化深度神经网络移植优化稀疏标签数据环境下的边缘人工智能
内容提要
本文综述边缘设备上的神经架构搜索（NAS）研究，涵盖DCA-NAS、DASH、MONAS、DPP-Net、MNAS、EDNAS、DCNAS、EdgeMA及量化感知NAS等方法，通过硬件感知搜索、多目标优化与权重共享，在精度、延迟和内存间取得平衡，实现边缘端高效部署。
延伸解读
边缘AI的硬件感知搜索趋势
文章综述的多种NAS方法，如DCA-NAS、MNAS、EDNAS等，均强调硬件感知搜索，将模型大小、浮点运算、延迟等约束纳入优化目标。这反映了边缘AI部署的核心挑战：在资源受限设备上平衡精度与效率。通过权重共享和通道瓶颈等技术，搜索速度得以加快，使自动设计针对特定设备的架构成为可能。
多目标优化与帕累托最优
MONAS和DPP-Net等工作将多目标优化引入NAS，同时优化精度和设备相关指标，寻找帕累托最优架构。这意味着没有单一最优模型，而是针对不同设备的最佳权衡集合。对于边缘应用开发者，这提供了根据具体硬件选择合适模型的灵活性，而非追求单一通用模型。
实际部署中的挑战与解决方案
EdgeMA针对视频分析中的数据漂移问题，通过纹理特征检测和重要性加权适应，提升推理准确性。这表明边缘AI不仅关注架构搜索，还需应对动态环境变化。此外，量化感知NAS（如INT8和FB-MP）在Cityscapes上实现模型压缩和加速，而不损失性能，为实际部署提供了可行路径。
Q&A
边缘计算中为什么要使用神经架构搜索（NAS）？
边缘设备（如物联网设备）需要在本地处理数据，而不是依赖云端。NAS可以自动设计适合边缘设备约束（如模型大小、浮点运算）的神经网络架构，实现低延迟和高性能。
DCA-NAS方法如何加速神经网络架构搜索？
DCA-NAS结合边缘设备的约束条件（如模型大小和浮点运算），通过权重共享和通道瓶颈技术加快搜索速度，并发现具有低推断延迟和最先进性能的特定设备架构。
MONAS和DPP-Net在多目标神经架构搜索中有什么作用？
MONAS和DPP-Net是NAS的多目标框架扩展，能够优化精度和设备带入的其他目标，寻找可以在广泛设备上最好部署的神经架构。实验结果显示，它们找到的架构在各种设备上均达到了Pareto最优性。
MNAS如何平衡移动设备上的准确性和延迟？
MNAS将模型延迟明确地纳入主要目标，以便搜索可以识别满足准确性和延迟之间良好平衡的模型。实验结果表明，该方法在多个视觉任务中始终优于现有的移动卷积神经网络模型，并且实现了更好的mAP质量。
EDNAS如何提高边缘平台上稠密预测的准确性？
EDNAS通过多任务学习（MTL）和硬件感知神经架构搜索（NAS）的联合学习，提高了边缘平台上稠密预测的准确性，并通过提出JAReD方法降低了输出噪声，并揭示了最佳架构。
量化感知NAS在Cityscapes数据集上取得了什么成果？
使用基于块的NAS方法实现在大规模任务上的量化感知NAS（INT8和FB-MP），在Cityscapes数据集上找到了比DeepLabV3（INT8）模型小33%、INT8模型快17.6%的FB-MP模型，而不影响任务性能。
