Diff-BBO：基于扩散的黑盒优化的逆向建模
内容提要
该论文介绍了一种基于扩散模型的离线黑盒优化方法DDOM，表现优于现有基线。同时探讨了贝叶斯优化和机器学习在黑盒优化中的应用，提出了新方法BO4IO和RIBBO，提升了参数估计和优化效率。
延伸解读
离线黑盒优化的扩散模型路径
文章重点介绍了DDOM，一种基于扩散模型的离线黑盒优化方法。其核心是通过学习条件生成模型，在离线数据集上直接生成接近最优的设计，而无需在线查询黑盒函数。在Design-Bench基准测试中，DDOM的表现与最先进基线相当，说明扩散模型在离线优化场景中具有竞争力。
贝叶斯优化在组合与离散空间的新进展
针对组合空间和离散变量，文章提到了SBBO方法。它仅需通过基于采样的后验预测分布访问黑盒函数，并允许使用适用于组合空间的概率代理模型。实证表明，在不同代理模型下SBBO均有效，这为传统贝叶斯优化难以处理的离散优化问题提供了新思路。
算法性能与预算的权衡关系
文章引用了一项比较研究，指出基于机器学习和黑盒优化的算法在有限预算下表现较好，但随着预算增加，其他算法家族通常表现更佳。这一发现提示实践者：选择优化算法时需考虑可用评估预算，没有一种方法在所有预算区间内都占优。
逆优化与强化学习的新工具
BO4IO将逆优化损失视为黑盒，用高斯过程近似，能准确估计未知模型参数并提供置信区间。RIBBO则从离线数据中学习多个行为算法和任务的优化历史，通过集成regret-to-go tokens自动生成满足用户期望遗憾值的查询点。两者分别拓展了参数估计和离线强化学习在黑盒优化中的应用。
Q&A
DDOM方法的主要特点是什么？
DDOM是一种基于扩散模型的离线黑盒优化方法，通过学习条件生成模型进行优化，表现优于现有基线。
SBBO方法在黑盒优化中有什么应用？
SBBO是一种基于贝叶斯优化的方法，适用于组合空间和离散变量的优化，通过采样后验预测分布进行访问。
机器学习在黑盒优化中的表现如何？
在有限预算下，基于机器学习的算法表现较好，但随着预算增加，其他算法通常表现更佳。
BO4IO方法的主要功能是什么？
BO4IO是一种基于贝叶斯优化的逆优化方法，用于参数估计和不确定性量化，能够准确估计未知模型参数并提供置信区间。
RIBBO算法是如何工作的？
RIBBO是一种强化学习黑盒优化算法，通过学习多个行为算法和任务的优化历史，自动生成满足用户期望的查询点。
B2Opt框架的优势是什么？
B2Opt框架通过廉价代理函数和进化算法机制，显著提升高维昂贵黑盒优化的性能，能够实现3到百万倍的性能提升。
