模块化:AI引擎与Mojo有何不同?

模块化:AI引擎与Mojo有何不同?

💡 原文英文,约600词,阅读约需2分钟。
📝

内容提要

AI Engine是一个高性能的推理引擎,支持导入来自TensorFlow、PyTorch和ONNX的训练模型,并提供高吞吐量。它有四个关键组件:导入器、优化器、内核生成器和运行时。用户可以使用Python和C/C++ API,并集成到流行的服务框架中。AI Engine目前处于封闭预览阶段。

🏷️

标签

➡️

继续阅读