FlatNAS:优化神经架构搜索中的平坦度,提升抗越界鲁棒性

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

该研究介绍了一种名为FlatNAS的神经架构搜索解决方案,通过权重扰动的鲁棒性和使用SAM进行神经网络优化相互作用,探索NN损失景观中的平坦区域。FlatNAS评估了NN体系结构对OOD鲁棒性的影响,并在性能、OOD泛化和参数数量之间取得了平衡。

🏷️

标签

➡️

继续阅读