神经多变量回归中的神经崩溃的普遍性

本研究解决了当前神经网络在回归任务中缺乏对神经崩溃现象的系统理解的问题。论文提出了神经回归崩溃（NRC）的新概念，并通过无约束特征模型（UFM）对这一现象进行建模，从理论上解释了数据集和网络架构中的NRC现象。研究结果表明，正则化参数的设定对NRC的出现有重要影响，这一发现可能表明神经崩溃在深度学习中具有普遍性。