本文讨论大模型机房落地的实操细节:从业务QPS与训练tokens推算所需卡数、机柜数和功率,再反推进线、冷却、布线与光模块配置。核心观点是电力与冷却能力决定代际上限,高密机柜必须采用液冷;光纤极性、光模块备件及兼容白名单常被忽视,易造成额外CAPEX和故障;交换机选型需比较IB与RoCE的TCO及运维成本;RDMA部署须明确PFC/ECN责任归属并完成验收;扩容应按P0/P1/P2分期推进,避免一次性囤货导致贬值。
完成下面两步后,将自动完成登录并继续当前操作。