受约束的双层优化:近端拉格朗日值函数方法与无 Hessian 算法

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本研究提出了一种新的方法和算法,用于处理具有上下级变量耦合的约束双层优化问题。通过设计平滑的近端 Lagrangian 值函数来处理约束的下层问题,并将原始问题转化为具有平滑约束的等价优化问题。该算法适用于机器学习应用,是一种基于近端 Lagrangian 值函数的非 Hessian 梯度算法。实证结果验证了该算法在实际性能上的优越性。

🎯

关键要点

  • 本研究提出了一种新的方法和算法,针对具有上下级变量耦合的约束双层优化问题。
  • 设计了平滑的近端 Lagrangian 值函数来处理约束的下层问题。
  • 将原始问题转化为具有平滑约束的等价优化问题。
  • 该算法适用于机器学习应用,是一种基于近端 Lagrangian 值函数的非 Hessian 梯度算法。
  • 针对 LV-HBA 进行了收敛性分析,不需要传统的强凸性假设。
  • 该算法能够处理非单例情况。
  • 实证结果验证了该算法在实际性能上的优越性。
🏷️

标签

➡️

继续阅读