OneDiff 1.0发布!生产环境稳定加速SD/SVD模型

💡 原文中文,约800字,阅读约需2分钟。
📝

内容提要

硅基流动开发的OneDiff图片/视频推理加速引擎发布了v1.0.0版本,解决了问题并增加了新特性和改进。OneDiff保持2-3倍的推理加速,帮助节省成本。已在多家企业应用。

🎯

关键要点

  • OneDiff图片/视频推理加速引擎发布v1.0.0版本,解决了问题并增加了新特性和改进。
  • 新版本包括质量评估、重复利用编译图、改进对Playground v2.5的支持等。
  • OneDiff保持2-3倍的推理加速,帮助节省成本。
  • 在OneDiff的支持下,RTX3090的性能超越A100。
  • OneDiff实现图片即时生成,推理时间与端到端时间均小于300ms。
  • OneDiff已在多家海内外知名GenAI企业的生产环境中应用。
➡️

继续阅读