💡
原文中文,约700字,阅读约需2分钟。
📝
内容提要
英特尔发布了OpenVINO 2024.4,增加了对新处理器和AI模型的支持,扩展了语言模型支持,提供了更好的性能和内存消耗,同时支持Python 3.12和RHEL9。
🎯
关键要点
- 英特尔发布了OpenVINO 2024.4,这是其开源AI工具包的最新版本。
- OpenVINO 2024.4支持即将推出的英特尔酷睿超系列2处理器。
- 增加了对GLM-4-9B Chat、MiniCPM-1B、Llama 3和3.1、Phi-3-Mini、Phi-3-Medium和YOLOX-s型号的支持。
- 扩展了大型语言模型(LLM)的支持,包括对Xe Matrix Extensions(XMX)的优化。
- 支持Python 3.12和Red Hat Enterprise Linux 9。
- 改进了性能和内存消耗,提供了对OpenAI兼容API的生产质量支持。
➡️