大型语言模型加速

大型语言模型加速

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

在阅读了unsloth的博客《手动自动求导》后,我尝试解析模型,发现了更多的优化点。torchview是一个很好的类似工具。

🎯

关键要点

  • 阅读了unsloth的博客《手动自动求导》。
  • 尝试解析模型,发现了更多的优化点。
  • torchview是一个很好的类似工具。
➡️

继续阅读