大模型推理选型应先明确服务目标、流量与运维责任，而非先选GPU。AWS提供托管端点与HyperPod两条路线：前者省运维、易上线，后者控制强但需平台能力。选型应基于真实负载压测，关注TTFT、尾延迟和每千次成功任务成本，并明确故障责任归属。