循环MoE架构将MoE与循环Transformer结合，参数与算力比值虽与稠密模型相同，但行为迥异。MoE横向动态路由专家，循环机制纵向增加计算深度，二者叠加使知识容量与思考深度解耦，并可将显存瓶颈转为算力瓶颈。但训练难度大，存在路由坍缩、循环次数难定、梯度不稳等问题，实际部署尚少。

OpenAI Astra的“48层循环两次”虽未证实，但揭示了循环Transformer趋势：通过复用物理层增加计算深度，而非堆参数。DeepLoop解决训练稳定性，Looped-MoE结合专家路由提升扩展性，early exit实现动态计算。核心变化是分离参数规模与计算量，使模型按需投入计算，重塑AI发展路径。