采用分层无监督学习减少前向算法中的数据和损失需求

最近的深度学习模型，如 ChatGPT，利用反向传播算法展示出令人瞩目的性能。然而，生物大脑过程与反向传播算法之间的差异被注意到。为了解决这个问题，出现了纯正向传播算法，它只通过前向传递来训练深度学习模型。尽管由于必须使用特殊的输入和损失函数等局限性，纯正向传播算法不能取代反向传播，但它在反向传播难以使用的特殊情况下具有潜在的有用性。为了解决这个局限并验证可用性，我们提出了一种无监督的纯正向传播算法。使用无监督学习模型可以使用通常的损失函数和输入进行训练，没有限制。通过这种方法，我们实现了稳定的学习，并能够在不同的数据集和任务中实现多功能的应用。从可用性的角度来看，考虑到纯正向传播算法的特点和所提方法的优势，我们预计它在需要在物理分布环境中单独训练深度学习层的场景中实际应用，如联合学习。