💡 原文中文,约800字,阅读约需2分钟。
📝

内容提要

英特尔于2024年11月20日发布了OpenVINO 2024.5,增强了生成式AI功能,支持多种大型语言模型和YOLO11,并优化了对英特尔处理器的支持,提供Flax的预览功能。这是AI工具包的重要更新。

🎯

关键要点

  • 英特尔于2024年11月20日发布了OpenVINO 2024.5,这是最新的主要功能版本。
  • OpenVINO 2024.5增强了生成式AI功能,扩大了大型语言模型的覆盖范围。
  • 新增对1B和3B大小的Llama 3.2、2B和9B大小的Gemma 2以及YOLO11的支持。
  • 英特尔NPU现在支持多种大型语言模型,包括Llama 3 8B和Mistral-v0.2 7B。
  • 对英特尔酷睿超显卡和英特尔Arc Graphics独立GPU进行了新的优化。
  • 正式支持英特尔至强6 P核处理器和英特尔酷睿超200V Arrow Lake S台式机处理器。
  • OpenVINO 2024.5提供了对Flax的预览级支持,Flax是基于JAX的高性能Python神经网络库。
  • 为GenAI API添加了推测解码功能,并为多模式AI部署提供了GenAI API预览支持。
  • OpenVINO 2024.5是AI工具包的一个重要更新,详细信息可访问官方链接。
➡️

继续阅读