谷歌推出的新架构Mixture-of-Recursions（MoR）实现了推理速度提升2倍，内存减少50%。该架构通过统一参数共享和自适应计算，降低了计算和内存成本，同时保持了大模型的性能。MoR在多个参数规模上优于传统Transformer，展现出更高的计算效率和可扩展性。

2025年6月Rust更新包括Rust-Analyzer的新功能和改进，提升了功能性和稳定性。gpt-rs库简化了GPT模型调用，Uzu引擎优化了AI推理。ZeroFS增强了NFS服务器性能，Thunk支持XP，EdgeLinkd兼容Node-RED。Rodio音频库更新了API，intern-mint实现了字节切片共享。Bitpiece库简化了位字段操作，Rwatch替代传统的watch命令。

ADiT模型通过结合潜在表示与Transformer技术，突破了原子系统建模的周期性与非周期性限制，显著提高了生成效率与可扩展性，为新材料和药物设计提供了重要支持。

Mamba探讨了状态空间模型（SSMs）与Transformer的优劣，指出Attention并非万能，SSMs在处理长序列信息时更具优势。Mamba在同规模下超越Transformer，强调混合模型的潜力，未来可能结合两者优势开发新架构。

弗吉尼亚大学团队提出的EBT（基于能量的Transformer）架构，通过能量机制在多个维度上超越Transformer++，提升约35%。EBT模拟人类思维，动态优化思考步数，展现出良好的扩展性和泛化能力。