本研究探讨均值场变换器模型中的亚稳态聚类现象，发现随着令牌数量增加，模型在特定结构的亚稳态解流形上保持稳定，这对下一个令牌预测等应用具有重要影响。

基于微分方程的连续图神经模型拓展了图神经网络的架构，通过聚合 - 扩散方程启发的 GRADE 模型在非线性扩散和聚合之间找到了一种微妙的平衡，通过产生亚稳态节点表示聚集成多个聚类，从而缓解了过度平滑的问题，该模型达到了竞争性的性能，证明了其在图神经网络中减轻过度平滑问题的作用。