本文系统介绍基于SGLang的大模型推理部署实践，涵盖benchmark方法论、单机/多机Non-PD分离/PD分离等部署方案选型与性能调优。强调测试先行、无万能方案，需case by case验证。通过实验对比指出EP、并行策略、KV传输引擎等选择因场景而异，并提供调试建议与常见问题解决方案。

三年前，我们开始重塑AI基础设施，以应对技术挑战。今天推出的MAX 24.6包含MAX GPU，这是首个垂直集成的生成AI服务栈，消除了对特定计算库的依赖。MAX Engine和MAX Serve支持灵活的推理部署，简化了AI开发流程。我们期待在2025年继续推动AI基础设施的进步。