💡
原文中文,约800字,阅读约需2分钟。
📝
内容提要
AMD于2024年11月15日发布了ZenDNN 5.0深度神经网络库,优化了对Zen 5处理器的支持,并提升了生成式大型语言模型的性能,兼容PyTorch和TensorFlow。
🎯
关键要点
- AMD于2024年11月15日发布ZenDNN 5.0深度神经网络库。
- ZenDNN 5.0优化了对AMD Zen 5处理器的支持,特别是EPYC 9005系列。
- 该库与英特尔的oneDNN API和基础设施兼容。
- ZenDNN 5.0通过PyTorch插件增强了生成式大型语言模型的性能。
- 支持的模型包括Llama2、Llama3、Phi2、Phi3、Qwen、ChatGLM和GPT等。
- ZenDNN 5.0还为BERT等非生成式LLM模型提供了性能改进。
- 该版本兼容AMD BLIS 5.0库和EPYC特定的MATMUL运算符。
- ZenDNN 5.0已在TensorFlow 2.16+和PyTorch 2.0+上进行了测试。
- ZenDNN 5.0在Apache 2.0许可下可用。
➡️