Python 失宠！Hugging Face 用 Rust 新写了一个 ML 框架，现已低调开源
💡
原文中文，约2800字，阅读约需7分钟。
📝
内容提要
Hugging Face最近开源了名为Candle的ML框架，使用Rust编写，专注于性能和易用性，实现Serverless推理。Candle允许部署轻量级二进制文件，提高性能并消除Python的开销和GIL问题。然而，Rust的难度让一些开发者望而却步。Candle支持前沿模型，具有简单的语法和与PyTorch相似的风格。该项目正在快速迭代中，支持多种功能和特点。
🎯
关键要点
- Hugging Face 最近开源了名为 Candle 的 ML 框架，使用 Rust 编写，专注于性能和易用性。
- Candle 的核心目标是实现 Serverless 推理，允许部署轻量级二进制文件，消除 Python 的开销和 GIL 问题。
- Rust 的难度让一些开发者望而却步，但它在性能上具有优势。
- Candle 支持前沿模型，具有简单的语法和与 PyTorch 相似的风格。
- Candle 结构包括核心操作、模型构建工具、示例、CUDA 自定义内核和数据集加载器等。
- Candle 项目正在快速迭代中，更新频繁，支持多种功能和特点，如 Serverless 部署和浏览器运行模型。
- Python 也在努力解决其性能问题，包括计划删除 GIL 和推出新编程语言 Mojo。
- 开发者对 Candle 的看法不一，有人认为 Rust 的复杂性是个障碍，也有人认为 Python 的缺点可以通过流程改进来解决。
🏷️
标签
➡️
