1000行Rust实现一个类似pytorch的轻量级自动微分库
📝
内容提要
最近发布了用Rust编写的轻量级自动微分库ferris-grad。该库具有PyTorch风格的自动求导引擎,核心代码不到1000行,且无外部依赖。实现包括标量计算图、张量操作和神经网络层,支持训练多层感知机和mini GPT。项目灵感来源于Karpathy的micrograd和microgpt,欢迎参与贡献。
🎯
关键要点
-
最近发布了用Rust编写的轻量级自动微分库ferris-grad。
-
该库具有PyTorch风格的自动求导引擎,核心代码不到1000行,且无外部依赖。
-
实现包括标量计算图、张量操作和神经网络层。
-
支持训练多层感知机(MLP)和mini GPT。
-
项目灵感来源于Karpathy的micrograd和microgpt。
-
目前仅支持CPU运算,后续计划添加GPU支持。
🏷️
标签
➡️