进化优化和贝叶斯优化中的模型不确定性：一项比较分析
内容提要
本研究提出了一种新颖的不确定性感知搜索框架（USeMO），通过多目标黑盒优化提高评估效率。实验结果表明，USeMO在多个基准问题上优于现有算法。同时，贝叶斯优化在高维度和复杂问题中表现出色，能够有效优化昂贵的黑箱函数。研究还提出了稳健贝叶斯优化算法AIRBO，能够处理输入不确定性并实现优异性能。
延伸解读
不确定性建模的两种路径
文章对比了进化优化与贝叶斯优化中处理不确定性的不同方式。USeMO通过代理模型选择评估输入序列，减少函数评估次数以逼近Pareto集；AIRBO则利用最大均值差异（MMD）直接建模任意分布的不确定输入，并借助Nystrom近似加速后验推理。两者都旨在提升昂贵黑盒优化的效率，但USeMO侧重多目标搜索，AIRBO侧重输入不确定性下的稳健最优解。
高维与组合场景的适应性
文章指出贝叶斯优化在高维度和复杂问题中表现出色，能有效优化昂贵的黑箱函数。此外，模拟基于贝叶斯优化（SBBO）通过基于采样的后验预测分布，适用于组合空间和离散变量。拟贝叶斯优化框架则利用局部回归和随机化先验，在高维综合实验、超参数调整和机器人应用中胜过基准。这些进展表明贝叶斯优化正扩展至更广泛的优化场景。
稳健优化与输入不确定性的处理
AIRBO算法针对输入不确定性，通过MMD建模任意分布的不确定输入，并建立严格的理论遗憾界。实验证明其能处理各种输入不确定性并达到最先进性能。同时，文章还提到一个贝叶斯优化框架用于考虑输入不确定性的多目标优化，量化鲁棒性并搜索鲁棒的帕累托前沿。这些工作强调了在现实问题中处理输入不确定性的重要性。
经验迁移与代理模型选择
文章探讨了利用相关任务经验增强代理辅助进化算法（SAEA）的效率，实验表明从相关任务获得的经验有助于节约目标问题的评估预算。此外，使用未经评估的解决方案和适应于选择阶段的关系模型，可提高代理辅助进化算法的效率，在高质量解决方案的选择中优于回归和分类模型。这些方法为昂贵优化问题提供了新的效率提升途径。
Q&A
USeMO框架的主要优势是什么？
USeMO框架通过多目标黑盒优化提高评估效率，实验表明其性能优于现有算法。
贝叶斯优化在高维度问题中的表现如何？
贝叶斯优化在高维度和复杂问题中表现出色，能够有效优化昂贵的黑箱函数。
什么是稳健贝叶斯优化算法AIRBO？
AIRBO是一种稳健贝叶斯优化算法，能够处理输入不确定性并实现优异性能。
AIRBO如何处理输入不确定性？
AIRBO通过最大均值差异（MMD）建模不确定输入，并加速后验推理。
USeMO在实验中的表现如何？
USeMO在多个合成和六个真实基准问题上的实验结果表明，其性能始终优于现有算法。
贝叶斯优化的实际应用领域有哪些？
贝叶斯优化在科学、工程、经济、制造等领域具有广泛的实际应用。
