本研究提出了一种典型性意识学习（TAL）方法，以解决深度神经网络在故障检测中的过于自信问题。TAL通过动态调整样本的典型性指标，降低不典型样本的过拟合，从而显著提升了CIFAR100数据集上的故障检测性能，AURC提升超过5%。

本文介绍了一种基于分层结构的深度卷积神经网络(HD-CNNs)，通过粗细分类器提高分类效果，并在CIFAR100和ImageNet上取得优异成绩。此外，提出了自适应分层网络、多标签分类模型及长文本分类方法，显著提升了分类性能和效率。

本文探讨了神经网络中的激活函数，特别是ReLU的作用及其对网络性能的影响。研究提出了一种新型激活函数Sqish，实验结果表明其在分类和对抗性鲁棒性方面优于ReLU，尤其在CIFAR100数据集上表现显著改善。

该研究提出了一种基于l2范数的新方法，用于检测ODD攻击技巧。该方法在CIFAR10/100平均OOD检测度量方面相对于之前的方法有约13％/5％的提高，并在分布内样本上提供高水平的认证和敌对鲁棒性。

本文介绍了一种名为Sqish的新型激活函数，可替代现有的激活函数。作者展示了Sqish在分类、目标检测、分割任务和对抗性鲁棒性实验中的优越性。在CIFAR100数据集上，使用ShuffleNet V2模型在FGSM对抗攻击中，相较于ReLU取得了8.21%的改进，并且在CIFAR100数据集上，使用ShuffleNet V2模型进行图像分类，相较于ReLU取得了5.87%的改进。

通过DFL算法解决了去中心化联邦学习中的局部一致性和局部异构过拟合问题，并在MNIST、CIFAR10和CIFAR100数据集上验证了算法的优越性能。

LNN(ListenAI Neural Network) 是聆思科技专为聆思 AIOT 芯片（目前支持 CSK6 系芯片）定制开发的AI生态工具链，它包含linger和thinker两个部分，其中linger是量化训练组件，thinker是轻量级推理引擎组件，两个套件相互配合实现了训练推理一体化。