FRAIN是一种新型的异步联邦学习方法，旨在解决数据异构性和更新陈旧性导致的性能下降问题。通过快速同步策略和球面线性插值技术，FRAIN有效整合客户更新，提升模型的稳定性和可靠性，尤其在恶劣环境下表现优于传统方法。研究表明，FRAIN在解决客户端漂移和提高收敛稳定性方面具有显著优势。

本研究提出了一种新层归一化策略Peri-LN，旨在解决变压器架构中的不足。Peri-LN在大规模训练中表现优异，能够有效平衡方差、改善梯度流动并提高收敛稳定性，具有潜在应用价值。