Hugging Face和AMD合作加速CPU和GPU平台的最先进模型

Hugging Face和AMD合作加速CPU和GPU平台的最先进模型

💡 原文英文,约700词,阅读约需3分钟。
📝

内容提要

Hugging Face和AMD合作,加速CPU和GPU平台的最先进模型,支持自然语言处理、计算机视觉和语音等最先进的转换器架构,如BERT、DistilBERT、ROBERTA、Vision Transformer、CLIP和Wav2Vec2。他们还将支持更传统的计算机视觉模型,如ResNet和ResNext,以及深度学习推荐模型。他们将与AMD工程团队密切合作,优化关键模型,以利用最新的AMD硬件和软件功能提供最佳性能。

🎯

关键要点

  • Hugging Face与AMD合作,加速CPU和GPU平台的最先进模型。
  • 该合作将支持自然语言处理、计算机视觉和语音等领域的转换器架构。
  • AMD已正式加入Hugging Face的硬件合作伙伴计划。
  • AMD和Hugging Face将优化AMD的Instinct MI2xx、MI3xx和Radeon Navi3x系列GPU。
  • 在CPU方面,将优化Ryzen和EPYC系列的推理性能。
  • 支持的模型架构包括BERT、DistilBERT、ROBERTA、Vision Transformer等。
  • 将测试和验证这些模型在PyTorch、TensorFlow和ONNX Runtime上的表现。
  • 初步重点是确保重要模型在AMD平台上良好运行。
  • 将与AMD工程团队密切合作,优化关键模型以实现最佳性能。
  • 预计将推出新的Optimum库,专门针对AMD平台,帮助用户轻松使用。
➡️

继续阅读