FlatNAS：优化神经架构搜索中的平坦度，提升抗越界鲁棒性
原文中文，约500字，阅读约需2分钟。发表于：。该研究引入了一种名为 Flat Neural Architecture Search (FlatNAS) 的新型 NAS 解决方案，其探索了基于对权重扰动的鲁棒性和使用 Sharpness-Aware Minimization (SAM) 进行单个 NN 优化之间的相互作用。FlatNAS 是文献中首个系统性地探索 NN 损失景观中的平坦区域的 NAS 方法，并同时优化其在分布数据、OOD...
该研究介绍了一种名为FlatNAS的神经架构搜索解决方案，通过权重扰动的鲁棒性和使用SAM进行神经网络优化相互作用，探索NN损失景观中的平坦区域。FlatNAS评估了NN体系结构对OOD鲁棒性的影响，并在性能、OOD泛化和参数数量之间取得了平衡。
