本文介绍了贝叶斯优化的原理及其高级技术,包括高斯过程回归、采集函数和迁移学习。研究提出了多种新算法和框架,如无后悔算法和结合局部优化的解决方案,旨在提高高维和复杂问题的优化效率和性能。
本文综述多保真贝叶斯优化(MFBO)研究,涵盖高斯过程代理模型与采集函数,及其在约束、高维、不确定性和多目标优化中的应用。相关进展包括物理感知方法、噪声建模、多目标MF-OSEMO、反向设计协同、知识梯度超参调优、MF-MES和多保真零阶优化。
主动学习在标注预算有限时,从无标注数据中挑选最有价值的样本交由人工标注,以最大化模型提升。其核心是设计采集函数,常用策略包括不确定性采样(最低置信度、边际、熵、委员会投票)、多样性采样、预期模型变化及混合策略。深度方法包括MC dropout、贝叶斯神经网络、损失预测、对抗式VAAL/MAL、对比学习CAL、核心集、BADGE梯度嵌入、BALD、遗忘事件等。
完成下面两步后,将自动完成登录并继续当前操作。