无限深度ResNet的归纳偏差与瓶颈秩

📝

内容提要

本研究解决了深度线性ResNet的最小范数权重问题,发现该架构的归纳偏差介于最小化核范数和秩之间。这表明,在适当的超参数下,深度非线性ResNet对最小化瓶颈秩具有归纳偏差,具有重要的理论意义和应用潜力。

🏷️

标签

➡️

继续阅读