好久不见!OneFlow 1.0全新版本上线

💡 原文中文,约5100字,阅读约需12分钟。
📝

内容提要

OneFlow开源框架发布了v1.0.0版本,包含80多个新特性和130多个功能改进与问题修复。性能优于PyTorch,新增了PyTorch兼容性接口、Eager运行时优化与重构、静态图分布式物理执行计划支持分离编译功能、函数式自动微分接口、Insight模块和OneFlow Serving功能升级。

🎯

关键要点

  • OneFlow开源框架发布v1.0.0版本,包含80多个新特性和130多个功能改进与问题修复。
  • OneFlow在深度学习编译后使用Graph模式和Eager模式运行时性能优于PyTorch。
  • 新增PyTorch兼容性接口compile_from_torch,支持将PyTorch Module实例转化为OneFlow Module实例。
  • Eager运行时进行了优化与重构,包括统一内存池、优化指令调度机制等。
  • 静态图分布式物理执行计划支持分离编译功能,编译时间不再随GPU规模线性增长。
  • 新增函数式自动微分接口,支持多种自动微分相关功能。
  • 新增Insight模块,支持可视化展示kernel调用、执行时间等信息。
  • LiBai v0.3.0版本更新,支持大语言模型的finetune和分布式推理。
  • OneFlow Serving功能升级,新增支持OneFlow Python后端和OneFlow Lite后端。
  • 欢迎有能力的工程师加入OneFlow团队,简历投递地址为talent@oneflow.org。

延伸问答

OneFlow v1.0.0版本有哪些主要新特性?

OneFlow v1.0.0版本包含80多个新特性和130多个功能改进与问题修复,新增PyTorch兼容性接口、Eager运行时优化、静态图分布式物理执行计划支持分离编译等。

OneFlow与PyTorch在性能上有什么区别?

OneFlow在深度学习编译后使用Graph模式和Eager模式的运行时性能优于PyTorch,尤其在典型模型上表现明显。

如何将PyTorch模型转换为OneFlow模型?

可以使用新的compile_from_torch接口,将PyTorch的Module实例转化为OneFlow的Module实例,支持直接Eager运行或转化为静态图。

OneFlow的Eager运行时做了哪些优化?

Eager运行时进行了统一内存池、优化指令调度机制、引入指令融合机制等多项优化与重构。

OneFlow的Insight模块有什么功能?

Insight模块支持可视化展示kernel调用、执行时间等信息,帮助用户分析性能。

LiBai v0.3.0版本更新了哪些功能?

LiBai v0.3.0版本支持大语言模型的finetune和分布式推理,提供多种finetune方式。

➡️

继续阅读