具有可扩展在线双层优化的自适应训练分布

BriefGPT - AI 论文速递 · 2023-11-20T00:00:00Z

本研究提出了一种算法，通过调整预训练分布的算法来适应目标测试条件。该算法优先计算在训练点上的梯度，从而改善目标分布上的损失。经验证实，在某些情况下，这种方法比现有的领域适应性策略更加有益。进一步的研究可以解决当前的限制。