原文中文,约800字,阅读约需2分钟。
📝
内容提要
AMD于2024年11月15日发布了ZenDNN 5.0深度神经网络库,优化了对Zen 5处理器的支持,并提升了生成式大型语言模型的性能,兼容PyTorch和TensorFlow。
🎯
关键要点
-
AMD于2024年11月15日发布ZenDNN 5.0深度神经网络库。
-
ZenDNN 5.0优化了对AMD Zen 5处理器的支持,特别是EPYC 9005系列。
-
该库与英特尔的oneDNN API和基础设施兼容。
-
ZenDNN 5.0通过PyTorch插件增强了生成式大型语言模型的性能。
-
支持的模型包括Llama2、Llama3、Phi2、Phi3、Qwen、ChatGLM和GPT等。
-
ZenDNN 5.0还为BERT等非生成式LLM模型提供了性能改进。
-
该版本兼容AMD BLIS 5.0库和EPYC特定的MATMUL运算符。
-
ZenDNN 5.0已在TensorFlow 2.16+和PyTorch 2.0+上进行了测试。
-
ZenDNN 5.0在Apache 2.0许可下可用。
🏷️