Modular:发布 MAX 开发者版预览

Modular:发布 MAX 开发者版预览

💡 原文英文,约1600词,阅读约需6分钟。
📝

内容提要

Modular推出了Modular Accelerated Xecution (MAX)平台,旨在简化在不同硬件平台上部署AI模型。MAX包括先进的AI编译器和运行时系统,高效的服务封装器和Mojo编程语言。MAX提供了性能提升和可移植性,允许开发人员无缝地将模型移植到不同的硬件上。它还提供了优化AI流水线的可扩展性和可编程性能力。MAX平台还提供了新的文档站点和Mojo编码平台等多种增强功能。未来的版本将包括Mac支持、企业功能和GPU支持。

🎯

关键要点

  • Modular推出了Modular Accelerated Xecution (MAX)平台,旨在简化AI模型在不同硬件上的部署。
  • MAX包括先进的AI编译器和运行时系统、服务封装器和Mojo编程语言。
  • MAX提供性能提升和可移植性,允许开发人员无缝移植模型到不同硬件。
  • MAX的首个版本在Linux系统上可用,包含三个关键组件:MAX Engine、MAX Serving和Mojo。
  • MAX Engine支持多种AI模型,提供卓越的推理速度。
  • MAX Serving确保与现有AI服务系统的无缝互操作性。
  • Mojo是为AI开发构建的编程语言,提供卓越的性能和可编程性。
  • MAX可以快速提升现有模型的性能,支持Python和C API的集成。
  • 通过少量代码更改,模型执行速度可提高至5倍,降低计算成本。
  • MAX支持多种CPU架构,GPU支持即将推出。
  • MAX的可扩展性和可编程性使得开发人员能够优化AI流水线。
  • MAX Graph API允许用户在Mojo中构建完整的推理模型。
  • MAX平台还提供了新的文档站点和Mojo编码平台等增强功能。
  • 未来版本将包括Mac支持、企业功能和GPU支持。
  • Modular致力于推动AI的发展,使其可被任何人、任何地方使用。
➡️

继续阅读