通过局部最优网络理解形态进化中的适应度景观
内容提要
该文综述神经架构搜索与进化优化研究，涵盖：利用局部最优网络分析适应度景观；通过形态创新保护协同优化机器人结构与控制；采用MECE使强化学习智能体适应环境；LEMONADE实现低耗多目标搜索；STN分析MOEA动态；表观遗传改进MOEA/D-DE；DERL演化形态；LLM设计MOEA算子；MoreMNAS结合EA与RL提升超分辨性能。
延伸解读
适应度景观分析的新视角
文章指出，利用局部最优网络（LON）分析神经架构空间的适应度景观导数，可以表征和可视化结构空间。这种方法为理解和优化神经架构提供了新范式，可能帮助研究者更直观地把握架构搜索中的难点与机会。
形态与控制的协同优化
文章介绍了“形态创新保护”和“形态环境共同进化（MECE）”两种方法。前者通过保护形态创新来协同优化机器人结构和控制策略，避免局部最优；后者让强化学习智能体与形态共同进化，以适应变化环境并提升泛化性能。
多目标进化算法的增强与评估
文章涵盖多项多目标进化算法研究：LEMONADE 利用进化算法和近似网络同构算子实现低耗多目标搜索；STN 模型用于分析 MOEA/D 和 NSGA-II 的搜索动态；表观遗传机制被引入 MOEA/D-DE；LLM 也被用于设计 MOEA 算子，展现出稳健的泛化潜力。
神经架构搜索的进化与强化学习结合
MoreMNAS 将 NSGA-II 遗传算法与自然突变过程混合，结合进化算法和强化学习的优势，在超分辨任务中搜索到比某些现有技术更少 FLOPS 的模型。DERL 框架则通过低级别自我感知信息演化智能体形态，用于复杂环境下的运动与操作任务。
Q&A
局部最优网络（LON）在神经架构搜索中有什么作用？
局部最优网络（LON）可用于分析神经架构空间的适应度景观，通过探讨候选解适应度景观的导数来表征和可视化神经结构空间，为分析和优化神经结构提供有效范式。
形态创新保护如何帮助机器人设计？
形态创新保护是一种协同优化机器人结构和控制策略的技术，能避免局部最优解，提高机器人的行为性能，促进自动化机器人设计和行为训练，并为实体认知理论提供实验平台。
MECE如何提升强化学习智能体的泛化能力？
MECE（形态环境共同进化）通过优化强化学习代理和形态，使其能够自动适应不断变化的环境，从而在不同环境中实现更好的泛化性能。
LEMONADE算法在神经网络搜索中解决了什么问题？
LEMONADE是一种多目标架构搜索算法，利用进化算法和近似网络同构算子，解决了神经网络搜索领域的资源浪费问题，实现了高性能、低资源消耗的自动化神经网络设计。
STN模型如何用于分析多目标进化算法？
STN模型被应用于分析两种常用多目标进化算法（MOEA/D和NSGA-II）的搜索动态，结果表明可以通过STNs来提高MOEA的算法分析。
DERL框架如何演化智能体形态？
DERL是一种新的计算框架，仅利用低级别自我感知信息，就能演化出多样化的智能体形态，用于学习复杂环境下的运动和操作任务，并展示了环境复杂度、形态智能和控制可学性之间的关系。
使用大型语言模型设计MOEA算子有什么优势？
使用预训练的大型语言模型（LLM）设计的多目标进化算法（MOEA）运算符显示出潜在优势，并能在不同模式和设置下具有稳健的泛化性能。
MoreMNAS算法在超分辨领域取得了什么成果？
MoreMNAS结合了进化算法和强化学习的优点，将NSGA-II遗传算法与自然突变过程相混合，在超分辨领域实验中获得了比某些现有技术更少FLOPS的令人瞩目的模型。
