本研究提出了一种统计鲁棒的WDRO框架,以解决Wasserstein分布鲁棒优化中的鲁棒过拟合问题。该框架结合了对抗噪声的Wasserstein距离和统计误差的Kullback-Leibler散度,显著提升了对抗性能,推动了鲁棒优化理论的发展。
本研究提出了一种新颖的$(eta, eta)$-稀疏性概念,以提升群体分布鲁棒优化(GDRO)的模型有效性。通过创新算法,改善了抽样复杂度,使其对组数$K$的线性依赖转变为对较小的$eta$的线性依赖,从而显著提高了模型效率,并展示了一种自适应算法以适应最佳稀疏性条件。
本研究探讨了鲁棒优化在深度神经网络中的应用,强调其对特征学习和可视化能力的提升。通过比较人类与机器视觉,发现自监督模型在性能上超越人类,但仍需改进。研究分析了模型规模、数据集和目标函数对认知表示的影响,并提出新的数据集以衡量AI与人类的视觉对齐,探讨了视觉-语言模型在不同场景下的稳健性。
本文探讨了在源域有充足标签数据而目标域仅有稀缺标签数据的情况下,开发转移学习算法的有效性。研究提出了鲁棒优化和自适应迁移学习等多种方法,以提高模型在分布偏移下的性能。实验结果表明,所提算法在预测误差和解释性方面优于现有方法,能够有效处理高维环境中特征维度大于样本大小的情况。
本文提出了一种基于Gram矩阵的特征提取模型,通过伪分组和鲁棒优化提升模型的容错性能,证明其在无真实标签情况下优于现有基线模型。同时,研究了深度神经网络的过拟合问题,提出了判断泛化性能的方法,并探讨了集成技术在机器学习中的应用。
本文探讨了数据驱动方法在不确定性决策中的应用,提出了Conformal-Predict-Then-Optimize(CPO)框架,结合预测算法与优化技术,解决随机规划问题。研究还介绍了分布式鲁棒优化(DRO)和机器学习增强的在线算法(RCL),展示了其在电动交通电池管理和任务分配中的有效性,强调了鲁棒性和性能提升的重要性。
本文介绍了最小极差风险优化(MERO)及其解决方法,利用随机凸-凹优化技术实现高效收敛。同时探讨了分布与离群点鲁棒优化框架(DORO),改进风险函数以提升机器学习性能。研究表明,新算法在处理类别不平衡和少数族裔性能方面优于传统方法,并在不同数据集上表现突出。
该文汇总多项机器学习研究,涵盖:分布式鲁棒优化作为正则化及其泛化界限;基于最优传输的模型无关数据集距离;含噪数据的线性度量学习与低秩截断;对抗及分布变化下的可靠性保证;Wasserstein距离的收敛性;SAL鲁棒算法;分布式学习算法;多标签Wasserstein损失;ROC相似性学习;高斯混合模型优化。
该文综述在线资源分配研究,针对非均匀到达、未知点击率、交通峰值等场景,提出参数化线性规划、鲁棒随机模型、在线学习框架及机器学习建议算法,兼顾稳健性与性能,并应用于广告、路由、预约系统等领域。
本文综述马尔可夫决策过程(MDP)的多种扩展,包括:可配置MDP的联合优化、近似模型下折扣MDP的性能上界、知识传递的无负面经验学习、条件McKean-Vlasov MDP的开环控制、分布鲁棒MDP的对抗分布最优策略、原始对偶方法求解约束MDP的最优复杂度、参数不确定MDP的鲁棒优化、不确定转移核的强鲁棒策略、零阶内点法的约束满足保证,以及模型鲁棒性学习的样本复杂度分析。
本文综述了不确定性量化与鲁棒优化研究,涵盖:基于CVaR和卡方分布的鲁棒优化算法(效率较全样本法高9~36倍)、结合判别与生成方法的PQ互信息估计、多分布学习自适应采样、SVM-GSU最大间隔分类器、深度学习多变量不确定性量化用于卡尔曼滤波、经验似然分布鲁棒统计推断、高斯过程模型动力学学习、贝叶斯不确定性处理类别不平衡、分布鲁棒马尔可夫决策过程以及神经网络互信息估计。
本研究提出了一种扩展解决方案,使用基于超平面的决策树建模非线性约束,并利用其他可转化为MIO的机器学习模型逼近原问题,采用自适应采样方法获得更准确的约束近似,利用鲁棒优化考虑样本依赖性训练的不确定性,并使用松弛方法处理MIO近似的不可行性。在81个全局优化实例中测试了增强的框架,并与BARON进行了比较,在11个实例中显示了更好的最优间隙或解决时间。
完成下面两步后,将自动完成登录并继续当前操作。