NVIDIA的InfiniBand和RoCE是高性能网络技术。InfiniBand适合追求低延迟和高性能的HPC和金融领域，而RoCE则适合成本敏感的数据中心和云环境。选择依据需求：极致性能选择InfiniBand，整合现有基础设施选择RoCE。

Meta在ACM SIGCOMM 2024会议上分享了他们在大规模分布式AI训练工作负载中使用的网络细节，包括采用RDMA over Ethernet技术构建数据中心网络、设计路径固定方案以提高网络流量均衡和路由效率、优化集体流量模式以改善网络拥塞控制。这些设计对分布式AI训练基础设施的发展至关重要。