MEL:高维特征选择的高效多任务进化学习
内容提要
该文综述进化计算与机器学习结合的研究,涵盖多目标特征选择、高维昂贵优化、多任务模型生成、可学习进化算法及脑电特征优化,展示性能与适应性提升,并指出可学习鉴别器、生成器等未来方向。
延伸解读
多目标特征选择:从PAES到SFE的演进
文章介绍了多目标特征选择的两项进展:改进的PAES方法通过高级概率方案和新策略,在多个真实数据集上提升了性能,并在探索解决方案的速度和可靠性方面表现优异;SFE算法则针对高维数据集,采用探索与开发两阶段,使用有选择性和无选择性两个操作符进行搜索。这些工作共同推动了特征选择在复杂数据上的应用。
高维昂贵优化:分类器辅助排序的突破
针对高维昂贵多目标优化问题,文章提到CLMEA算法,它结合分类器辅助排名学习和局部模型。实验表明,该算法在基准问题和地热储层热采优化实施中,性能优于现有的基于替代模型的多目标进化算法。这为处理评估成本高的优化问题提供了新思路。
多任务模型生成:进化计算的新应用
文章描述了一种基于进化的技术,能够生成支持动态添加新任务的大规模多任务模型。在69个公共图像分类任务上,该方法相比在公共数据上训练的最佳模型,错误率降低了15%。这展示了进化计算在构建可扩展多任务学习系统方面的潜力。
可学习进化算法:未来四大方向
文章总结了学习型多目标进化算法的进展,并指出四个有吸引力的方向:用于环境选择的可学习进化鉴别器、用于繁殖的可学习进化生成器、用于函数评估的可学习进化评估器,以及用于共享或重复使用优化经验的可学习进化传输模块。这些方向为进化学习领域的创新提供了参考。
Q&A
MEL 是什么?它主要研究哪些方向?
MEL 指高维特征选择的高效多任务进化学习,是进化计算与机器学习结合的研究领域。它涵盖多目标特征选择、高维昂贵优化、多任务模型生成、可学习进化算法及脑电特征优化等方向。
MEL 在多目标特征选择方面有哪些具体方法?
MEL 在多目标特征选择方面包括:改进的 PAES 方法,采用高级概率方案和新策略,在多个真实数据集上显著提高性能;SFE 算法,通过探索和开发两阶段及有选择性和无选择性操作符进行高维特征选择;基于遗传算法的多视图多目标特征选择方法,在分类任务中取得优于其他方法的性能和解释性。
MEL 如何应对高维昂贵优化问题?
MEL 提出基于分类器辅助排名学习和局部模型的多目标进化算法(CLMEA),用于高维昂贵的多目标优化问题。实验表明,该算法在基准问题和地热储层热采优化实施方面表现出优秀性能,优于现有的基于替代模型的多目标进化算法。
MEL 在多任务模型生成方面有什么成果?
MEL 提出一种基于进化的技术,能够生成支持动态添加新任务的大规模多任务模型。在 69 个公共图像分类任务上,该方法取得了有竞争力的结果,相对于在公共数据上训练的最佳模型,错误率降低了 15%。
可学习进化算法有哪些未来方向?
可学习进化算法的未来方向包括:用于环境选择的可学习进化鉴别器,用于繁殖的可学习进化生成器,用于函数评估的可学习进化评估器,以及用于共享或重复使用优化经验的可学习进化传输模块。
MEL 在脑电特征优化方面有哪些应用?
MEL 提出一种使用进化计算选择有用脑电特征并优化人工神经网络拓扑结构的新方法,同时探讨深度学习和长短时记忆的调整。使用三个分类器对注意状态、情感和数字数据集进行比较,结果表明自适应提升的 LSTM 可以在注意力、情感和数字数据集上分别达到 84.44%、97.06% 和 9.94% 的准确度,进化优化的 MLP 趋近于自适应提升的 LSTM。