在线非平稳随机凸博弈优化
发表于: 。对在线随机类星凸优化问题的动态环境下进行了研究,建立了在线梯度下降的遗憾界限,其中考虑了类星凸性和强类星凸性的累积路径变化和累积梯度方差。然后将这些结果应用于具有时变参数的广义线性模型 (GLM),并对应用于具有渗漏 ReLU 激活函数、逻辑激活函数和 ReLU 激活函数的 GLMs 的在线梯度下降建立了遗憾界限,数值结果证实了我们的发现。
对在线随机类星凸优化问题的动态环境下进行了研究,建立了在线梯度下降的遗憾界限,其中考虑了类星凸性和强类星凸性的累积路径变化和累积梯度方差。然后将这些结果应用于具有时变参数的广义线性模型 (GLM),并对应用于具有渗漏 ReLU 激活函数、逻辑激活函数和 ReLU 激活函数的 GLMs 的在线梯度下降建立了遗憾界限,数值结果证实了我们的发现。