本文探讨了现代硬件下的模型架构设计,强调机器学习与系统的结合。随着计算能力和算法的进步,AI模型的性能不断提升。文章介绍了硬件感知算法的设计,特别是状态空间模型与注意力机制的结合,以优化内存使用和计算方式,从而显著提升推理表现,展示了新架构在视频生成等应用中的潜力。
本文提出了一种基于强化学习的硬件感知框架,通过修剪和量化自动压缩深度神经网络,实现了39%的能耗降低和仅1.7%的精度损失。该框架在嵌入式ARM处理器上显著优化了推理延迟,适用于资源有限的系统。
本文提出了一种基于图卷积网络(GCN)的性能预测器,用于高效的硬件感知神经架构搜索(BRP-NAS)。该方法关注模型间的二元关系和数据选择策略,提升样本利用率,实验结果表明其在飞行器搜索领域优于现有方法。
该文综述多种神经网络量化方法,包括网络正交性代理、APQ联合优化、EMQ进化搜索、HAQ强化学习、APTQ后训练量化、OHQ硬件感知及PalQuant并行低精度等,旨在降低延迟与能耗,保持精度,并在ImageNet等基准上验证有效性。
本文综述边缘设备上的神经架构搜索(NAS)研究,涵盖DCA-NAS、DASH、MONAS、DPP-Net、MNAS、EDNAS、DCNAS、EdgeMA及量化感知NAS等方法,通过硬件感知搜索、多目标优化与权重共享,在精度、延迟和内存间取得平衡,实现边缘端高效部署。
该文综述量子架构搜索(QAS)研究进展,涵盖QuantumNAS等框架,联合搜索变分电路与量子比特映射,通过SuperCircuit训练、演化搜索及门修剪提升性能;并讨论梯度QAS用于深度强化学习、提升VQA鲁棒性与可训练性、硬件感知电路学习与qBAS指标、TorchQuantum噪声预测、QArchSearch大规模并行搜索、多目标遗传算法生成量子启发分类器,以及机器学习降噪框架与强化学习自动设计变分模型。
本文介绍了一种在芯片上进行硬件感知的混合精度量化(OHQ)框架,通过构建量化感知管道和基于掩码的量化估计技术,实现了从硬件感知的混合精度量化。OHQ 在不需要额外计算设备和数据访问的情况下,对各种体系结构和压缩比率进行了量化推理,为 ResNet-18 和 MobileNetV3 分别实现了 70%和 73%的准确率,并且相较于部署中的 INT8,减少了 15~30%的延迟。
完成下面两步后,将自动完成登录并继续当前操作。