本文研究了DP-SGD算法在隐私保护下的收敛速度及隐私损失，提出了新的RDP界限和动态DP-SGD算法，显著提高了模型的准确性和隐私保障，尤其是在非凸损失函数的情况下。

该研究使用信息论技术研究了具有有界更新的迭代学习算法在非凸损失函数上的泛化特性，并提出了新的泛化误差界。研究还分析了不同设置下的泛化界，并展示了改进的界限。

该文介绍了一种新的分层联邦学习方法 - 分层独立子模型训练（HIST），通过将全局模型划分为不相交的子模型，并将它们分布在不同的细胞中来解决分层环境下的计算、存储和通信负担问题。作者证明了 HIST 对于非凸损失函数的收敛行为，并展示了几个属性对性能效率权衡的影响。数值实验验证了 HIST 能够大幅节省通信成本，并实现相同的目标测试准确率。