Modular Blog
·
模块化平台25.4：一个容器，支持AMD和NVIDIA GPU，无锁定
内容提要
Modular Platform 25.4正式支持AMD GPU，提升AI模型性能，降低成本，增强灵活性。新增Mojo与Python绑定，简化开发流程，欢迎开发者贡献，共同推动AI基础设施发展。
关键要点
-
Modular Platform 25.4正式支持AMD GPU，提升AI模型性能，降低成本，增强灵活性。
-
与AMD的合作使得用户可以在AMD MI300X和MI325X GPU上无缝部署Modular，使用相同的代码和容器。
-
在流行的LLM工作负载上，AMD GPU相比于现有基础设施提供显著的性能提升。
-
新增Mojo与Python绑定，简化开发流程，允许开发者直接从Python代码调用Mojo函数。
-
开放源代码超过45万行的Mojo内核和服务代码，欢迎开发者贡献。
-
Modular 25.4扩展了模型生态系统，支持多种新模型和量化策略。
-
重新设计的文档系统使得查找资源更加容易，提升开发者体验。
-
推出Modular Hack Weekend和GPU编程工作坊，鼓励开发者参与和交流。
延伸解读
AMD GPU的优势
Modular Platform 25.4的推出使得AMD GPU的支持成为可能，尤其是在AI模型的性能和成本方面。与NVIDIA相比，AMD MI300X和MI325X在特定工作负载下提供了显著的性能提升，企业可以在不受硬件供应商限制的情况下，灵活选择最具性价比的解决方案。
开发者友好的新特性
新版本引入了Mojo与Python的绑定，简化了开发流程。开发者可以直接在Python中调用Mojo函数，提升了开发效率。这一变化不仅降低了技术门槛，也鼓励更多开发者参与到AI基础设施的建设中。
开放源代码的机会
Modular 25.4开放了超过45万行的Mojo内核和服务代码，欢迎开发者贡献。这为开发者提供了参与和影响AI基础设施未来的机会，同时也促进了社区的合作与创新。
延伸问答
Modular Platform 25.4对AMD GPU的支持有什么重要意义？
Modular Platform 25.4正式支持AMD GPU，提升AI模型性能，降低成本，增强灵活性，允许用户在AMD和NVIDIA GPU上无缝部署。
Modular 25.4如何提升AI模型的性能？
在流行的LLM工作负载上，AMD GPU相比于现有基础设施提供显著的性能提升，尤其在预填充和解码任务中表现优异。
新版本中有哪些开发者友好的功能？
新增Mojo与Python绑定，简化开发流程，允许开发者直接从Python代码调用Mojo函数，提升开发体验。
Modular 25.4的开源代码包含哪些内容？
Modular 25.4开源了超过45万行的Mojo内核和服务代码，欢迎开发者贡献和参与。
Modular 25.4如何支持多种新模型？
该版本扩展了模型生态系统，支持GGUF量化Llamas、Qwen3和OLMo2等多种新模型，满足不同需求。
Modular Hack Weekend活动的目的是什么？
Modular Hack Weekend旨在鼓励开发者参与和交流，促进对GPU编程的理解和应用。
