面向几何感知的神经多目标组合优化 Pareto 集学习
内容提要
本文探讨了多目标组合优化问题的学习方法，提出了动态损失函数、协同Pareto集学习和Pareto超网络等新技术，以生成高效的Pareto前沿解。这些方法在不同的多目标问题上表现出优越的性能和效率。
延伸解读
动态损失函数：无需预设权衡向量的多目标训练
文章提出一种使用动态损失函数训练神经网络逼近Pareto前沿的新方法。其核心优势在于无需预先指定权衡向量，即可返回分布在不同权衡方案上的输出。实验在三个多目标问题上验证了该方法，尤其对非对称Pareto前沿表现出比现有技术更多的优势。这为处理复杂多目标问题提供了更灵活的解决方案。
协同Pareto集学习：跨问题共享的高效框架
CoPSL框架通过共享层和特定于MOP的层协同处理，高效学习多个多目标问题的Pareto集。实验证明其在模拟Pareto集方面具有出色的效率和稳健性。这种设计允许模型在不同问题间迁移知识，减少重复训练成本，为多任务多目标优化提供了可扩展的途径。
Pareto超网络：运行时偏好驱动的模型选择
Pareto HyperNetworks（PHNs）通过一个超网络同时学习并输出Pareto前沿，相比训练多个独立模型，显著提高了运行时效率。用户可根据运行时偏好选择特定模型，实现动态权衡。该方法在Pareto-Front Learning中展现出潜力，为需要实时决策的场景提供了高效支持。
局部连续Pareto集：扩展理论到现代机器学习
文章提出一种生成局部连续Pareto集和Pareto fronts的高效方法，通过基于样本的稀疏线性系统将多目标优化理论结果扩展到现代机器学习问题。在多任务分类和回归问题上的应用表明，该算法能平衡权衡、找到更多不同权衡解，并处理百万级参数任务，展示了其可扩展性和实用性。
Q&A
什么是多目标组合优化问题的学习方法？
多目标组合优化问题的学习方法是一种通过神经网络直接生成接近帕累托前沿解的技术，旨在提高多目标问题的解决效率和性能。
动态损失函数在多目标训练中的作用是什么？
动态损失函数可以在多目标训练中逼近帕累托前沿，无需预先指定权衡向量，从而提高了输出的多样性和质量。
协同Pareto集学习框架（CoPSL）有什么优势？
CoPSL通过共享层高效学习多个多目标问题的Pareto集，展现出优秀的效率和稳健性，能够有效模拟Pareto集。
Pareto HyperNetworks（PHNs）如何提高运行时效率？
PHNs通过一个超网络同时学习并输出Pareto前沿，相比于训练多个模型，具有更高的运行时效率，并能根据偏好选择特定模型。
Moco元优化器的特点是什么？
Moco是一个可学习的元优化器，能够根据当前搜索状态提取特征，适应不同的计算预算，表现优于其他方法。
如何通过用户反馈优化超参数？
通过以人为中心的交互式超参数优化方法，学习用户反馈以优化质量指标，从而提高优化效果。
