关于在线模型选择与分散数据的合作必要性
💡
原文中文,约500字,阅读约需2分钟。
📝
内容提要
本研究探讨了面对自适应对手时的分布式在线和掷骰机凸优化问题。结果表明,在机器能够访问查询点的一阶梯度信息时,合作是没有益处的。然而,在只能访问成本函数值的情况下,合作可能导致机器数量的线性加速。通过开发新的分布式反馈算法,研究结果在联邦对抗线性掷骰机中得到应用。这项研究填补了联邦在线优化中随机和自适应环境之间的差距。
🎯
关键要点
-
本研究探讨了面对自适应对手时的分布式在线和掷骰机凸优化问题。
-
研究旨在通过 $M$ 个并行机器在 $T$ 轮和 $R$ 次间歇通信中最小化平均遗憾。
-
当机器能够访问查询点的一阶梯度信息时,合作没有益处。
-
在只能访问成本函数值的情况下,合作可能导致机器数量的线性加速。
-
研究开发了新的分布式单点和双点反馈算法,应用于联邦对抗线性掷骰机。
-
研究首次尝试系统理解限制反馈的联邦在线优化,并获得了一阶和零阶反馈的严格遗憾界。
-
研究填补了联邦在线优化中随机和自适应环境之间的差距。
➡️