BriefGPT - AI 论文速递
·
损失加大：对于非凸损失的隐藏状态 DP-SGD 没有隐私放大
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
本文介绍了一种新的Rényi差分隐私（RDP）界限，适用于DP-SGD变体。该界限适用于不假设凸性、平滑性或Lipschitz连续性的损失函数，并且假设DP-SGD的步长相对较小且损失函数是弱凸的。界限在目标函数的弱凸参数趋近于零时趋于以前建立的凸界限。对于非Lipschitz平滑的损失函数，提供了一种随着DP-SGD迭代次数的扩展良好的界限。
🎯
关键要点
- 本文介绍了一种新的Rényi差分隐私（RDP）界限，适用于DP-SGD变体。
- 该界限不假设损失函数的凸性、平滑性或Lipschitz连续性。
- 假设DP-SGD的步长相对较小，且损失函数是弱凸的。
- 当目标函数的弱凸参数趋近于零时，界限趋于以前建立的凸界限。
- 对于非Lipschitz平滑的损失函数，提供了一种随着DP-SGD迭代次数的扩展良好的界限。
🏷️
标签
➡️
