本研究提出了 Evolved Transformer 模型，通过神经架构搜索技术优化 Transformer 结构，在翻译任务中表现优异。研究利用元学习和自我关注机制，探索有效的进化策略，提升模型在未知优化问题上的性能。同时，探讨了卷积操作增强局部上下文建模能力及多目标进化修剪算法，显示出在图像分类和模型优化中的优势。