Kimi-K2.6是Moonshot AI于4月20日发布的开源大语言模型，具备长上下文推理和多模态理解能力。文章介绍了模型的下载、部署及性能基准测试，强调其在多项评测中的优异表现。Kimi-K2.6支持工具调用和视觉-语言输入，适合多种应用场景。

本文探讨了Kthena与vLLM-Ascend在云原生大模型推理中的应用，解决了Kubernetes在分布式推理中的拓扑约束和状态感知缺失问题。Kthena通过智能调度和流量管理提升了推理效率，降低了延迟，简化了部署流程，展现了大模型服务平台的未来潜力。

本文介绍了阿里云开源大语言模型Qwen3.5的选择与部署，提供从0.8B到397B的多种规格，适用于不同场景。推荐型号包括27B、35B-A3B和397B-A17B，分别在代码能力、性价比和综合性能上表现优异。文章还说明了如何在Kubernetes环境中使用vLLM进行模型部署及性能测试。

本文介绍了如何在生产环境中使用 vLLM 部署 GLM-5 模型，包括模型下载、镜像构建和 Docker 部署。GLM-5 是智谱 AI 最新的大语言模型，具备强大的推理能力。文章详细说明了安装 HuggingFace CLI、下载模型、构建自定义镜像及服务验证等步骤，并提供了性能基准测试结果，显示 INT4 版本在特定环境下的高吞吐量。

本文介绍了IBM研究、红帽和AMD团队开发的vLLM Triton注意力后端，旨在实现跨GPU平台的高性能。Triton是一种特定领域语言，支持用Python编写高效的GPU内核，兼容多种模型和硬件。通过优化内核设计和微基准测试，Triton后端在AMD、NVIDIA和Intel平台上表现优异，成为默认的注意力后端。

OpenBMB推出的MiniCPM-o-4.5模型仅用9B参数实现全模态能力，强调跨模态对齐与推理效率，适合主流GPU部署，具备高性能与轻量化优势。

vLLM在AMD ROCm上提供七种高性能推理后端，支持复杂模型结构。ROCM_AITER_FA通过三路径路由优化混合工作负载，显著提高吞吐量，性能提升达到2.7-4.4倍，确保软件与硬件高效协作，适应多样化请求。

为解决多模型AI服务的闲置GPU成本问题，我们与vLLM社区合作开发了Multi-LoRA技术，允许多个模型共享同一GPU，优化MoE模型的推理性能。该技术通过保持原始权重不变，仅调整小型适配器，显著提升了输出速度并降低了延迟，适用于多个开源MoE模型，并已在Amazon SageMaker和Bedrock上实现。

vLLM团队在NVIDIA GB200平台上优化性能，实现26.2K预填TPGS和10.1K解码TPGS，较H200提升3-5倍。通过低精度操作、内核融合和权重卸载等技术，显著提升计算效率和带宽利用率。

vLLM最近增加了对流式输入和实时WebSocket API的支持，以改善实时应用的推理能力。流式输入允许逐步处理输入并生成输出，减少延迟，提升用户体验。