卡内基梅隆大学提出了一种新型黑盒优化策略,利用大语言模型自动调整视觉语言模型的提示词,无需访问模型参数。这种方法提高了优化的灵活性和速度,适用于多种视觉任务,并在多个数据集上超越传统方法。研究表明,该策略能够有效捕捉视觉特性,生成高质量图像,具有广泛的应用潜力。
该研究探讨了参数高效微调(PEFT)在大型语言模型(LLMs)中的应用,强调创新架构和多模态探索的重要性。通过黑盒优化和稀疏微调方法,发现这些方法在性能上优于传统微调。提出的直观微调(IFT)结合监督微调与人类反馈,提升了模型在生成和推理任务中的表现,并关注反馈数据集的整合与优化,以提高模型的适应性和公平性。
本文提出了一种基于两阶段博弈模型的自动化机制设计框架,应用于不完全信息博弈,利用黑盒优化算法进行机制设计优化。研究了多智能体强化学习中的奖励机制、样本效率和均衡计算,提出新方法优化学习策略,并通过实证研究验证其有效性。
该论文介绍了一种基于扩散模型的离线黑盒优化方法DDOM,表现优于现有基线。同时探讨了贝叶斯优化和机器学习在黑盒优化中的应用,提出了新方法BO4IO和RIBBO,提升了参数估计和优化效率。
本文探讨了基于扩散模型的条件采样方法在黑盒优化中的应用,证明了其效率和准确性。研究提出了一种新型去噪网络,显著提高了模型的参数效率和推理速度。同时,介绍了基于凸神经网络的渐进Wasserstein流逼近方法,适用于机器学习。改进的扩散过程和算法加速了离散扩散模型的生成速度和样本质量,展示了在自然语言生成和机器翻译中的优越性。
本研究提出了一个理论框架,分析基于两层神经网络的扩散模型,建立了收敛结果,帮助理解其学习过程。研究探讨了扩散模型在黑盒优化中的应用,提出了新的采样理论框架,并比较了不同模型在计算机视觉中的性能差异,展示了扩散模型的优化方法及其在图像重构中的潜力。
本文介绍了多种基于贝叶斯优化的算法,如约束最大值熵搜索(cMES)、多保真度贝叶斯优化(MF-MES)和深度学习框架。这些方法通过提升计算效率和优化策略,有效解决了复杂的黑盒优化问题,特别是在材料科学和多目标优化领域表现突出。
本文提出多种基于贝叶斯优化的方法,包括知识梯度、多保真度和迁移学习等,旨在提升深度学习和黑盒优化的效率。研究表明,新算法在资源消耗、计算效率和目标函数优化方面有显著改进,并在多个基准问题中验证了其有效性。
本文介绍了多种贝叶斯优化方法,如模拟基于贝叶斯优化(SBBO)和神经过程贝叶斯优化,强调其在黑盒优化中的有效性和优势。这些方法通过代理模型和不确定性量化,成功应用于高维优化、超参数调整和组合优化等领域,表现出优于传统方法的性能。
本文介绍了自然进化策略(NES)算法,一种黑盒优化方法,通过维护参数化的分布来求解更高预期的适应度值。解决了收敛、稳健性、样本复杂度、计算复杂度和对超参数的敏感性等问题,并探讨了多种实现方式。实验结果显示,NES在全局优化和高维空间搜索方面表现良好。
该文介绍了一种改进的EI方法,通过引入高斯过程模型提供的协方差信息,修正了传统的EI公式,以达到在有噪声和无噪声的情况下都具有较好泛化性能的目的。实验证明,在黑盒优化的基准函数和神经网络模型压缩的参数搜索中,该方法在存在噪声观测时能够胜过EI方法。
本研究提出了基于Thompson抽样的并行贝叶斯优化方法,称为STS-PBO,用于解决时间敏感的黑盒优化问题。该方法引入了速率失真理论构建平衡学习所需信息量和次优性的损失函数,并采用Blahut-Arimoto算法计算目标解。实验证明,STS-PBO方法在同步和异步设置中均优于串行方法和传统Thompson抽样的并行贝叶斯优化方法。
完成下面两步后,将自动完成登录并继续当前操作。