本研究提出了一种自监督预训练框架FSFM，通过掩码图像建模和实例区分方法，利用大量无标签的真实面孔学习人脸表征。实验结果显示，该模型在多个数据集上的迁移性能显著优于传统方法，增强了人脸安全任务的泛化能力。

本文介绍了一种改进的前向梯度学习算法，通过引入局部贪婪损失函数和LocalMixer结构，降低了梯度估计的方差。该算法在MNIST、CIFAR-10和ImageNet数据集上表现出与反向传播相当的效果，尤其在CIFAR-10上准确率提升了25%。研究还探讨了前向-前向算法在自监督学习中的应用，发现其迁移性能较差，需进一步研究以提升表现。

本研究提出了一种新颖的数据-模型协同设计方法，通过学习模型拓扑和输入数据，提升模型剪枝效果。实验结果表明，该方法显著提高了迁移性能，减少了GPU内存需求，优化了深度神经网络在计算机视觉任务中的实现。

本研究首次比较了前向-前向算法与反向传播在自监督表征学习中的性能。实验结果表明，前向-前向算法在迁移性能上显著落后于反向传播，尽管训练过程表现相似。研究还探讨了前向-前向算法的优势，并提出了一种新的学习过程，以提高神经网络的训练效率和有效性。

该文介绍了一种新的攻击方法，称为块洗牌和旋转（BSR），通过随机洗牌和旋转输入图像块来构造新的图像用于梯度计算。在 ImageNet 数据集上实验表明，BSR 的迁移性能优于现有方法，与当前输入变换方法相结合，能进一步提高迁移性能，优于最先进的方法。

该研究比较了自监督表征学习中前向-前向算法和反向传播的性能，发现前者在迁移性能方面滞后。建议进一步研究以稳定前向-前向策略。