OpenAI Astra的“48层循环两次”虽未证实,但揭示了循环Transformer趋势:通过复用物理层增加计算深度,而非堆参数。DeepLoop解决训练稳定性,Looped-MoE结合专家路由提升扩展性,early exit实现动态计算。核心变化是分离参数规模与计算量,使模型按需投入计算,重塑AI发展路径。
完成下面两步后,将自动完成登录并继续当前操作。