释放神经坍缩的力量以进行可转移性估算
原文中文,约300字,阅读约需1分钟。发表于: 。通过测量预训练模型中神经崩溃的程度,提出了一种名为 Fair Collapse(FaCe)的新方法用于传递性估计,该方法包括方差崩溃项和类公平度项。实验结果表明,FaCe 在图像分类、语义分割和文本分类等不同任务上取得了最先进的性能,证明了我们方法的有效性和泛化能力。
Fair Collapse(FaCe)是一种新方法,通过测量预训练模型中神经崩溃的程度来进行传递性估计。该方法包括方差崩溃项和类公平度项,实验结果表明在不同任务上取得了最先进的性能,证明了该方法的有效性和泛化能力。