BriefGPT - AI 论文速递 · 2023-08-10T00:00:00Z

具有随机梯度噪声独立学习误差的拜占庭鲁棒型分散式随机优化

📝

内容提要

该研究探讨了分布式网络中拜占庭鲁棒随机优化问题，并引入了SAGA和LSVRG两种方差减小方法，实现了线性收敛速度和随机梯度噪声独立的学习误差。该方法在基于TV范数正则化和随机子梯度更新的方法中表现最优，并在广泛的拜占庭攻击实验中得到了验证。

🏷️

标签

LSVRG SAGA 分布式网络 拜占庭鲁棒 随机优化