卡内基梅隆大学提出了一种新型黑盒优化策略，利用大语言模型自动调整视觉语言模型的提示词，无需访问模型参数。这种方法提高了优化的灵活性和速度，适用于多种视觉任务，并在多个数据集上超越传统方法。研究表明，该策略能够有效捕捉视觉特性，生成高质量图像，具有广泛的应用潜力。

该研究探讨了参数高效微调（PEFT）在大型语言模型（LLMs）中的应用，强调创新架构和多模态探索的重要性。通过黑盒优化和稀疏微调方法，发现这些方法在性能上优于传统微调。提出的直观微调（IFT）结合监督微调与人类反馈，提升了模型在生成和推理任务中的表现，并关注反馈数据集的整合与优化，以提高模型的适应性和公平性。

本文提出了一种基于两阶段博弈模型的自动化机制设计框架，应用于不完全信息博弈，利用黑盒优化算法进行机制设计优化。研究了多智能体强化学习中的奖励机制、样本效率和均衡计算，提出新方法优化学习策略，并通过实证研究验证其有效性。

该论文介绍了一种基于扩散模型的离线黑盒优化方法DDOM，表现优于现有基线。同时探讨了贝叶斯优化和机器学习在黑盒优化中的应用，提出了新方法BO4IO和RIBBO，提升了参数估计和优化效率。

本文探讨了基于扩散模型的条件采样方法在黑盒优化中的应用，证明了其效率和准确性。研究提出了一种新型去噪网络，显著提高了模型的参数效率和推理速度。同时，介绍了基于凸神经网络的渐进Wasserstein流逼近方法，适用于机器学习。改进的扩散过程和算法加速了离散扩散模型的生成速度和样本质量，展示了在自然语言生成和机器翻译中的优越性。

本研究提出了一个理论框架，分析基于两层神经网络的扩散模型，建立了收敛结果，帮助理解其学习过程。研究探讨了扩散模型在黑盒优化中的应用，提出了新的采样理论框架，并比较了不同模型在计算机视觉中的性能差异，展示了扩散模型的优化方法及其在图像重构中的潜力。

本文介绍了多种基于贝叶斯优化的算法，如约束最大值熵搜索（cMES）、多保真度贝叶斯优化（MF-MES）和深度学习框架。这些方法通过提升计算效率和优化策略，有效解决了复杂的黑盒优化问题，特别是在材料科学和多目标优化领域表现突出。

本文提出多种基于贝叶斯优化的方法，包括知识梯度、多保真度和迁移学习等，旨在提升深度学习和黑盒优化的效率。研究表明，新算法在资源消耗、计算效率和目标函数优化方面有显著改进，并在多个基准问题中验证了其有效性。

本文介绍了多种贝叶斯优化方法，如模拟基于贝叶斯优化（SBBO）和神经过程贝叶斯优化，强调其在黑盒优化中的有效性和优势。这些方法通过代理模型和不确定性量化，成功应用于高维优化、超参数调整和组合优化等领域，表现出优于传统方法的性能。

本文综述机器学习与黑盒优化的相互影响及算法性能比较。研究表明，此类算法在有限预算下表现良好，但预算增加后其他算法家族常更优。内容涵盖元学习贝叶斯优化、B2Opt、mlrMBO、MetaBox基准平台、LIBO、ROMO、OpenBox等方法，涉及高维优化、序列化Bandit、约束优化及离线优化等方向。

该文综述视觉语言模型的参数高效微调方法，涵盖黑盒优化、提示调优、适配器与多任务学习等方向。研究利用大语言模型自动搜索文本提示，在少样本图像分类中提升性能；提出合作式黑盒调整、VeCAF、CRaSh、跨模态提示调优、CP-Tuning、SoftCPT、CoPrompt 等方法，在多个下游基准上显著改进，并兼顾隐私与泛化能力。

该文综述学习型多目标进化算法研究，涵盖OptMPNDS3等多方多目标优化算法、基于大语言模型的进化算子设计、扩散模型加速动作生成与运动规划，以及进化多目标网络剪枝、EDMP规划、EMD语言建模和DDOM黑盒优化等方法，并总结该领域进展与方向。

该文汇总多项大语言模型高效适配研究：通过指令调整提升推理效率并保持生成质量；提出LoFT提高黑盒攻击迁移性；用小型白盒模型结合黑盒模型微调提升翻译性能；黑盒优化任务提示；轻量Probing预测调优表现；Decoder Tuning仅需一次API查询且加速千倍；ProMoT两阶段框架保留上下文学习能力；LMaaS场景少样本学习方案；轻量扰动机制兼顾隐私与实用性；以及依赖输入的提示调整等方法。

该文介绍了一种改进的EI方法，通过引入高斯过程模型提供的协方差信息，修正了传统的EI公式，以达到在有噪声和无噪声的情况下都具有较好泛化性能的目的。实验证明，在黑盒优化的基准函数和神经网络模型压缩的参数搜索中，该方法在存在噪声观测时能够胜过EI方法。

本研究提出了基于Thompson抽样的并行贝叶斯优化方法，称为STS-PBO，用于解决时间敏感的黑盒优化问题。该方法引入了速率失真理论构建平衡学习所需信息量和次优性的损失函数，并采用Blahut-Arimoto算法计算目标解。实验证明，STS-PBO方法在同步和异步设置中均优于串行方法和传统Thompson抽样的并行贝叶斯优化方法。