在2024-2026年，GPU训练的瓶颈转向网络互联。文章探讨了机内和跨机的互联技术，如NVLink、InfiniBand和RoCEv2，强调LLM训练对网络带宽和延迟的敏感性，需优化通信以提高效率。分析了不同拓扑结构的优缺点，并提出调优方案以解决训练中的网络问题，最终强调网络基础设施在大规模训练中的重要性。