OpenVINO™ C# API 最新升级:支持 OpenVINO™ Runtime 2024.3和更多得C#框架

💡 原文中文,约4900字,阅读约需12分钟。
📝

内容提要

OpenVINO™官方发布了最新版本的Runtime 2024.3.0,更新了OpenVINO™ Runtime NuGet包2024.3.0.1和OpenVINO™ CSharp API程序集,支持多个C#框架。OpenVINO™是一个用于优化和部署AI推理的开源工具包,OpenVINO™ C# API是一个OpenVINO™的.Net包装器,可在不同平台上使用C#语言实现深度学习模型的推理加速。

🔎

延伸解读

多框架支持降低迁移成本

本次更新编译了多个C#框架的程序集,覆盖.NET 5至.NET 8、.NET Core 3.1以及.NET Framework 4.6至4.8.1等常见版本。这意味着无论项目基于旧版.NET Framework还是新版.NET,开发者都能找到对应的程序集,无需为了使用OpenVINO™ C# API而大幅升级或重构现有项目,降低了集成门槛。

跨平台部署需注意环境配置

OpenVINO™ C# API提供了Windows、Linux和macOS的NuGet包,但Linux平台安装后需手动设置LD_LIBRARY_PATH环境变量,指向程序输出目录下的runtimes文件夹。若在全新平台使用,还需运行install_openvino_dependencies.sh安装依赖。这些步骤是保证推理库正常加载的关键,忽略可能导致运行时找不到本地库。

非托管资源管理不可忽视

文章示例中使用了using语句包裹Core、Model、Tensor等对象,并强调这些对象封装了C API接口,具有非托管资源。开发者必须调用Dispose()或使用using确保释放,否则可能引发内存泄漏。在长时间运行或高频推理场景中,这一点尤为重要,建议在代码审查中重点关注资源释放逻辑。

❓

Q&A

OpenVINO™ C# API的最新版本是什么?

最新版本是OpenVINO™ C# API 2024.3.0.2。

OpenVINO™ C# API支持哪些C#框架?

支持NET 5, NET 6, NET 7, NET 8及多个.NET Framework版本。

如何在Windows上安装OpenVINO™ C# API?

可以通过命令'dotnet add package OpenVINO.CSharp.API'进行安装。

OpenVINO™的主要功能是什么?

OpenVINO™用于优化和部署AI推理,提升深度学习模型的性能。

OpenVINO™ C# API的使用方法是什么?

使用OpenVINO™ C# API时,需要初始化Core,读取模型文件并创建推理通道。

OpenVINO™项目的许可证是什么?

该项目受Apache 2.0 license许可认证。

🏷️

标签

➡️

继续阅读