非神经模型中的现象出现：通过平均梯度外积理解模块算术
内容提要
本文探讨了神经网络中的“grokking”现象，即模型在过拟合后仍能实现泛化。研究发现，深度神经网络在特征学习中经历了记忆、电路形成和清除三个阶段。通过逆向工程和新算法，揭示了卷积神经网络的特征学习能力及其与模块化算术的关系，并提供了加速顿悟现象的迁移学习机制。
延伸解读
从记忆到泛化：三阶段动态
文章指出，深度神经网络在特征学习中会经历记忆、电路形成和清除三个连续阶段。这一发现基于对小型Transformer的逆向工程，揭示了模型如何从简单记忆训练数据过渡到形成可泛化的内部电路，最终清除冗余信息。理解这一动态有助于解释为何模型在过拟合后仍能突然泛化，并为设计更高效的训练策略提供理论依据。
卷积核与梯度外积的关联
研究通过实证和理论论证，发现卷积神经网络滤波器的协方差与输入层补丁的平均梯度外积高度相关。基于此提出的ConvRFM算法，在卷积核机器中实现了深层特征学习，克服了传统卷积核局部自适应性的限制。这一发现不仅深化了对CNN特征学习机制的理解，也为改进卷积架构提供了新思路。
模块化算术的学习边界与扩展
神经网络在模块化算术任务上通常难以泛化，但文章将已知的解析解类别扩展到模块化乘法和多项加法。通过结合“专家”解，构建的网络能在任意模块化多项式上推广。作者猜测模块化多项式可分为可学习和不可学习两类，并提供了实验证据。这为理解神经网络的学习极限和设计可泛化模型提供了重要参考。
加速顿悟的迁移学习机制
针对Transformer学习算术运算中的顿悟现象，文章利用KA表示定理阐明了加速机制，并提出了基于共享结构的迁移学习方案。实验证明，该方法能加速顿悟，并成功学习组合运算和方程组等非标准任务。此外，嵌入迁移使模型能用有限记号学习算术运算，这为高效训练和知识迁移提供了实用途径。
Q&A
什么是神经网络中的“grokking”现象？
“grokking”现象是指模型在过拟合后仍能实现泛化的能力。
深度神经网络在特征学习中经历了哪些阶段？
深度神经网络在特征学习中经历了记忆、电路形成和清除三个阶段。
ConvRFM算法的主要优势是什么？
ConvRFM算法克服了卷积核的局部自适应性限制，并在性能上取得了显著提升。
如何通过逆向工程理解卷积神经网络的特征学习能力？
通过逆向工程，可以观察到卷积神经网络在复杂模块化算术中学习到的内部电路及其动力学差异。
神经网络在模块化算术任务中的学习限制是什么？
神经网络在模块化算术任务中存在学习限制，无法很好地进行推广。
如何加速神经网络的顿悟现象？
通过数据增强和KA表示定理，可以阐明算术运算的加速机制，从而加速顿悟现象。
