本文研究了自监督学习模型的学习动态,提出了施加权重正交性约束的目标函数,并证明了无限宽度逼近的自监督学习模型与监督模型的神经切向核逼近存在偏差。数值实验证明了理论发现的正确性,并为对比和非对比自监督学习提供了框架。
本文研究了自监督学习模型的学习动态,提出了施加权重正交性约束的目标函数,并推导出了在 Grassmann 流形上使用梯度下降训练的模型的学习动态。实验证明了理论的正确性,并为对比和非对比自监督学习提供了进一步的理论分析框架。
完成下面两步后,将自动完成登录并继续当前操作。