关于理解锐度感知最小化算法在分布外泛化中的作用

📝

内容提要

本研究解决了锐度感知最小化(SAM)在分布外(OOD)泛化中的应用问题,针对现有SAM变体的效果进行深入比较。研究发现,原始SAM在零-shot OOD泛化中实现了比Adam基线高4.76%的提升,并且在逐渐领域适应中同样表现良好,这些发现对于进一步分析SAM的理论和实践具有重要意义。

🏷️

标签

➡️

继续阅读