💡 原文中文,约700字,阅读约需2分钟。
📝

内容提要

英特尔发布了OpenVINO 2024.4,增加了对新处理器和AI模型的支持,扩展了语言模型支持,提供了更好的性能和内存消耗,同时支持Python 3.12和RHEL9。

🎯

关键要点

  • 英特尔发布了OpenVINO 2024.4,这是其开源AI工具包的最新版本。
  • OpenVINO 2024.4支持即将推出的英特尔酷睿超系列2处理器。
  • 增加了对GLM-4-9B Chat、MiniCPM-1B、Llama 3和3.1、Phi-3-Mini、Phi-3-Medium和YOLOX-s型号的支持。
  • 扩展了大型语言模型(LLM)的支持,包括对Xe Matrix Extensions(XMX)的优化。
  • 支持Python 3.12和Red Hat Enterprise Linux 9。
  • 改进了性能和内存消耗,提供了对OpenAI兼容API的生产质量支持。
➡️

继续阅读