高维贝叶斯优化的标准高斯过程
原文中文,约300字,阅读约需1分钟。发表于: 。对高维优化问题进行系统研究发现标准高斯过程贝叶斯优化(BO)在很多合成和真实世界基准问题中表现出色,在高维优化上经常比专门设计的现有 BO 方法更出色,同时具备适应各种目标函数结构的鲁棒性,单纯使用最大似然估计即可获得有前景的优化性能,不需要复杂的马尔可夫链蒙特卡洛采样,因此建议重新评估和深入研究标准 BO 在解决高维问题方面的潜力。
本文提出了一种基于高斯Cox过程的最大后验推断方法,通过引入Laplace近似和核函数转换技术,在新的再生核希尔伯特空间中更易于计算,扩展了功能后验和后验的协方差。提出了基于高斯Cox过程模型的贝叶斯优化框架,并开发了一种高效计算的Nyström近似方法。在合成和实际数据集上的评估表明,与现有解决方案相比,本方法取得了显著改进,能有效进行基于高斯Cox过程模型设计的各种收集函数的贝叶斯优化。