CAGES: 高效局部多保真贝叶斯优化的成本感知梯度熵搜索
内容提要
本文介绍了多种基于贝叶斯优化的算法，如约束最大值熵搜索（cMES）、多保真度贝叶斯优化（MF-MES）和深度学习框架。这些方法通过提升计算效率和优化策略，有效解决了复杂的黑盒优化问题，特别是在材料科学和多目标优化领域表现突出。
延伸解读
多保真度优化如何降低计算成本
文章介绍了多保真度贝叶斯优化方法，如MF-MES和MF-OSEMO，它们通过结合不同精度和资源消耗的评估来减少计算成本。MF-MES利用最优函数值的熵简化信息熵估计，而MF-OSEMO则针对多目标优化，使用多重保真度函数评估来近似帕累托解集。这些方法在材料科学等基准数据集上验证有效，为资源受限的复杂优化问题提供了实用方案。
约束优化中的熵搜索策略
针对带黑盒约束的全局优化问题，文章提出了预测熵搜索（PESC）策略，并开发了部分更新算法以平衡元计算和目标计算时间。此外，cMES方法基于高斯过程，在真实约束优化问题上比其它熵搜索算法更简单快速。这些进展为约束贝叶斯优化提供了统一有效的方向，尤其适用于评估成本高或约束难以解析的场景。
高维黑盒优化的挑战与应对
面对大规模观测、高维输入空间和批量查询质量与多样性平衡等挑战，文章提出了基于集成高斯过程模型的EBO算法，能在几分钟内扩展到数万次观测。同时，基于bootstrap整合的深度学习框架能够逼近高维输出下的复杂函数关系，在轮毂叶片形状优化等任务中表现优越。这些方法为高维黑盒优化提供了可扩展的解决方案。
Q&A
什么是约束最大值熵搜索 (cMES)？
约束最大值熵搜索 (cMES) 是一种基于高斯过程的优化算法，旨在解决真实约束优化问题，具有简单和快速的特点。
多保真度贝叶斯优化 (MF-MES) 是如何简化计算的？
MF-MES 通过考虑最优函数值的熵而非最优输入点，显著简化了计算过程，解决了信息熵估计的难题。
如何使用协方差矩阵适应 (CMA) 策略进行优化？
CMA 策略用于定义局部区域，以高概率包含全局最优解，并在该区域内结合贝叶斯优化来优化目标函数。
MF-OSEMO 方法在多目标优化中有什么优势？
MF-OSEMO 方法通过多重保真度函数评估，显著减少资源消耗，并在多目标优化上表现出显著改进。
深度学习框架在贝叶斯优化中的作用是什么？
该深度学习框架基于bootstrap整合，能够在高维输出情况下逼近设计变量与感兴趣数量之间的函数关系，优化复杂任务表现优越。
EBO算法解决了哪些黑盒优化中的挑战？
EBO算法解决了大规模观测、高维输入空间和批量查询质量与多样性平衡等三大挑战，取得了显著的优化效果。
