联邦在线与强盗凸优化
💡
原文中文,约500字,阅读约需2分钟。
📝
内容提要
本文研究了面对自适应对手时的分布式在线和掷骰机凸优化问题。研究结果表明,在机器能够访问所查询点的一阶梯度信息时,合作是没有益处的。然而,在只能访问成本函数值的情况下,合作可能导致机器数量的线性加速。通过开发新的分布式反馈算法,进一步说明了研究结果在联邦对抗线性掷骰机中的应用。填补了联邦在线优化中随机和自适应环境之间的差距。
🎯
关键要点
-
本文研究了面对自适应对手时的分布式在线和掷骰机凸优化问题。
-
研究旨在通过 $M$ 个并行机器在 $T$ 轮和 $R$ 次间歇通信中最小化平均遗憾。
-
当机器能够访问查询点的一阶梯度信息时,合作没有益处。
-
与随机函数的情况相比,合作在自适应生成的情况下并不有利。
-
在只能访问成本函数值的情况下,合作可能导致机器数量的线性加速。
-
开发了新的分布式单点和双点反馈算法,应用于联邦对抗线性掷骰机。
-
研究首次尝试系统理解限制反馈的联邦在线优化。
-
在间歇通信情况下获得了一阶和零阶反馈的严格遗憾界。
-
研究填补了联邦在线优化中随机和自适应环境之间的差距。
➡️