通过分数型福克 - 普朗克方程推导重尾 SDE 的泛化界限

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

近年来,研究者对现代机器学习算法的泛化能力进行了深入研究。最近的研究发现,随机梯度下降算法的学习动态与重尾动态有关,可以应用于泛化理论。本研究证明了一类重尾动态轨迹上的泛化界限,并提出了一个几何解耦项,通过比较经验风险和预期风险的动态来引入。此外,还提出了一个基于扰动动态的PAC-Bayesian设置,用于收紧界限。

➡️

继续阅读