BriefGPT - AI 论文速递 - 2023-11-29T00:00:00Z
我们研究了面对自适应对手时的分布式在线和掷骰机凸优化问题。我们旨在在 $M$ 个并行工作的机器上通过 $T$ 轮和 $R$ 次间歇通信来最小化平均遗憾。在假设底层成本函数是凸函数并且可以自适应生成的情况下,我们的研究结果表明,在机器能够访问所查询点的一阶梯度信息时,合作是没有益处的。这与对于随机函数的情况形成了对比,其中每台机器从固定分布中抽样成本函数。此外,我们深入研究了带有掷骰机(零阶)反馈的联邦在线优化更具挑战性的情况,在该情况下,机器只能访问所查询点的成本函数值。这里的关键发现是确定合作有益且甚至可能导致机器数量的线性加速的高维度情况。我们通过开发新的分布式单点和双点反馈算法,进一步说明了我们的研究结果在联邦对抗线性掷骰机中的应用。我们的工作是对限制反馈的联邦在线优化的系统理解的首次尝试,并在间歇通信情况下获得了一阶和零阶反馈的严格遗憾界。因此,我们的研究填补了联邦在线优化中随机和自适应环境之间的差距。
AI生成摘要
本文研究了面对自适应对手时的分布式在线和掷骰机凸优化问题。研究结果表明,在机器能够访问所查询点的一阶梯度信息时,合作是没有益处的。然而,在只能访问成本函数值的情况下,合作可能导致机器数量的线性加速。通过开发新的分布式反馈算法,进一步说明了研究结果在联邦对抗线性掷骰机中的应用。填补了联邦在线优化中随机和自适应环境之间的差距。