释放神经坍缩的力量以进行可转移性估算

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

Fair Collapse(FaCe)是一种新方法,通过测量预训练模型中神经崩溃的程度来进行传递性估计。该方法包括方差崩溃项和类公平度项,实验结果表明在不同任务上取得了最先进的性能,证明了该方法的有效性和泛化能力。

🏷️

标签

➡️

继续阅读