漩涡网络
原文中文,约400字,阅读约需1分钟。发表于: 。本研究针对现有人工神经网络在工作记忆整合上的不足,提出了一个新范式“漩涡网络”,结合了递归神经网络的优势与前馈神经网络的模式匹配能力。该方法通过将递归组件保持为未学习状态,将学习任务转移至强大的前馈网络,从而实现顺序记忆,促进了持续学习,并可能赋予人工网络“自我”意识的潜力。
本文提出了“情节记忆理论”,研究了循环神经网络作为离散时间模拟的“一般顺序情节记忆模型”。通过引入新的算法任务和电路形式,揭示了循环神经网络动力学的普遍性,并设计了一种算法来定义特权基础,提高了网络的学习参数和隐藏状态的可解释性。这项工作有助于理解循环神经网络的内部机制,并弥合人工神经网络和神经记忆模型之间的差距。