本研究提出了一种名为TLC的方法，通过批归一化层压缩深度神经网络，解决了过度参数化导致的计算资源消耗问题，并在多种模型和任务中验证了显著的性能提升。

本文探讨了神经网络中的神经崩溃现象，分析了交叉熵损失函数在特征模型中的全局优化景观。研究表明，神经崩溃普遍存在于深度学习中，影响优化和泛化能力。提出无约束层剥模型，证明其在全局最小化时表现出神经崩溃现象，并探讨了批归一化和权重衰减的影响。

本文分析了脉冲神经网络（SNN）的优缺点，并介绍了多种新方法，如基于阈值的批归一化和时间效率训练，以提升SNN在图像识别中的准确率。此外，研究提出了AutoSNN架构搜索和基于脉冲扩散模型的生成模型，展示了其在多个数据集上的优越性能，推动了脉冲神经网络的发展。

该文介绍了一种新的识别方法DA-FSOS及其模型DAFOSNET，用于域自适应少样本开放集识别。该模型使用元学习架构，创建伪开放空间决策边界，增强数据密度，并提出特定于域的批归一化类原型对齐策略。在多个数据集上验证了其有效性。

本文介绍了一种带有线性激活函数和批归一化的多层感知机模型，证明了其正向信号传播特性的精确表征。同时，提出了一种激活函数塑形方案，能够在某些非线性激活函数下实现类似的特性。在线性独立的输入样本情况下，该模型能够渐近地保持梯度有界的特性。