LiteRT - 一种高性能、可扩展的轻量级深度学习推理运行时用于…

云原生 · 2025-11-26T04:02:48Z

LiteRT是谷歌基于TensorFlow Lite开发的轻量级推理运行时，适用于资源受限的边缘设备。V1兼容经典TFLite API，V2引入异步执行和自动加速器选择，支持多平台。其主要特点包括跨平台支持、硬件加速、异步高效I/O和生态系统兼容性，适合移动实时推理、嵌入式设备和生成模型加速。