研究人员使用最大更新参数化理论实现了从小型模型到大型模型的零-shot泛化，并发现最大更新参数化元训练的学习优化器在元泛化方面有显著改进。尤其是在应用于大宽度模型时，最好的学习优化器能够达到或超过最大的公开可用学习优化器的性能。此外，该学习优化器在更深的网络和更长的训练周期中表现出更好的泛化能力。

本研究比较了手动设计和学习优化器对网络架构优化过程的影响，并提出了关键见解。