可扩展的元学习通过混合模式微分
📝
内容提要
本研究针对梯度优化在元学习中的应用,特别是通过二层优化过程导致的高计算成本问题,提出了一种名为混流元梯度(MixFlow-MG)的新算法。该算法利用混合模式微分构建更高效的计算图,实现了超过10倍的内存节省和最多25%的时间提高,从而显著提升了元学习任务的可扩展性和性能。
🏷️
标签
➡️