Noise is What You Need: Private Second-Order Convergence of Noisy Stochastic Gradient Descent

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本文研究了差分隐私随机梯度下降(DP-SGD)在私有优化中的应用,首次分析了其二阶收敛性。结果显示,在标准平滑性假设下,DP-SGD能够实现二阶收敛,为现代私有优化提供理论支持,帮助找到二阶驻点。

🏷️

标签

➡️

继续阅读