Meta的开放AI硬件愿景

在2024年OCP全球峰会上，Meta展示了最新的开放AI硬件设计，包括Catalina高功率机架和Grand Teton平台，支持AMD加速器。

Meta通过开放网络架构和与微软合作，推动AI基础设施创新，强调开源硬件对AI未来的重要性。

Meta的Llama 3.1 405B是其最大的模型，使用超过16,000个NVIDIA H100 GPU进行训练，标志着AI训练规模的巨大提升。

Meta预计AI训练所需的计算能力将显著增长，并需要高性能的多层非阻塞网络结构来支持这一增长。

Catalina机架设计为模块化，支持最新的NVIDIA GB200 Grace Blackwell Superchip，满足现代AI基础设施的需求。

Grand Teton平台现已支持AMD Instinct MI300X加速器，提供更大的计算能力和内存，以支持大型AI推理工作负载。

Meta开发的开放分解调度网络（DSF）将推动AI训练集群的性能，支持多种供应商的组件。

Meta与微软的合作始于2018年，双方共同致力于推动开放创新，当前合作项目包括Mount Diablo分解电源机架。

Meta承诺开放源代码AI，认为开放源代码将使AI的好处惠及全球，强调开放软件和硬件系统的重要性。