本研究提出了一种基于图的全局优化框架,解决带有非凸正则化函数的统计模型参数估计问题。该方法通过构建强凸松弛,确保收敛到全局最优,并在稀疏线性回归中展示了有效性。
本研究提出了一种高效的高斯过程汤普森采样优化策略,通过一维全局根查找识别局部最优点,并利用可微分解耦表示优化后验样本,提升高维全局优化能力,增强贝叶斯优化表现。
本文介绍了自然进化策略(NES)算法,一种黑盒优化方法,通过维护参数化的分布来求解更高预期的适应度值。解决了收敛、稳健性、样本复杂度、计算复杂度和对超参数的敏感性等问题,并探讨了多种实现方式。实验结果显示,NES在全局优化和高维空间搜索方面表现良好。
本研究提出了一种扩展解决方案,使用基于超平面的决策树建模非线性约束,并利用其他可转化为MIO的机器学习模型逼近原问题,采用自适应采样方法获得更准确的约束近似,利用鲁棒优化考虑样本依赖性训练的不确定性,并使用松弛方法处理MIO近似的不可行性。在81个全局优化实例中测试了增强的框架,并与BARON进行了比较,在11个实例中显示了更好的最优间隙或解决时间。
该研究证明了深度神经网络在多标签分类任务中存在神经折叠现象,并发现了多标签学习中的“标签平均”组合属性,建立了全局优化结果和训练效率的实证证据。
该文介绍了一种解决符号回归问题的方法,采用参数化函数族和全局优化的方式,将离散问题转化为连续优化问题。作者证明了该方法在常见符号回归基准测试中取得了最先进的结果。
本文介绍了梯度下降法在机器学习和优化算法中的应用,包括其数学原理和步骤,以及应用实例。梯度下降法具有全局优化能力、广泛适用性和可扩展性等优点,但也存在不足之处。
完成下面两步后,将自动完成登录并继续当前操作。