在实时通信领域,传统音视频处理算法面临瓶颈。随着轻量级神经网络的发展,将AI模型嵌入WebRTC客户端的媒体管道成为趋势。文章探讨了如何利用ONNX Runtime实现实时语音降噪和视频超分辨率,强调C++的高效性和ONNX的跨平台优势,并提供了性能优化建议,如使用libyuv和GPU零拷贝技术,以提升实时音视频体验。
AMD 工程师为 FFmpeg 提供了 ONNX Runtime 后端,支持深度神经网络 (DNN) 滤镜,允许在视频处理过程中使用 AI 模型,兼容多种 GPU 和 NPU 平台,包括 NVIDIA CUDA 和 AMD Ryzen AI NPU,增强了 FFmpeg 的视频处理能力。
OpenCV 5.0于2026年6月6日发布,新增深度神经网络引擎重写、80% ONNX覆盖率和内置大型语言模型支持等功能,并针对多种硬件进行了优化,计划实现原生GPU支持。
OpenCV 5发布,标志着计算机视觉领域的重要进步。新版本引入全新的DNN引擎,支持超过80%的ONNX操作,改进了硬件加速和文档,增强了Python集成,优化了核心性能,支持动态形状和多种数据类型,适用于现代深度学习应用。
Burn ONNX 0.21.0 发布,支持构建时导入 ONNX 模型,独立托管,支持160个算子,717个测试通过,适合Rust工程。Toasty 0.6.0 更新,增强查询控制和数据支持。Rustrak v0.2.2 更新移动端支持,提升用户体验。Stella Nova 是用Rust开发的N体引力模拟器,展示真实物理系统和模块化建造。
本文介绍了基于ONNX的图像特征提取模型dinov3_vitl16的实现,用户可以加载图像并提取特征,同时生成相似度热力图。文章详细阐述了模型的输入输出、特征提取过程及相关图像处理方法。
本文介绍了一个深度估计模型的实现,使用Microsoft.ML.OnnxRuntime和OpenCvSharp库。用户可以选择图片进行深度推理,程序处理图像并生成深度彩色图,支持保存结果。详细说明了模型路径和输入输出张量的设置。
本文介绍了如何使用 DeploySharp 框架和 ONNX Runtime 部署 PP-OCR v4/v5 模型,涵盖 CPU、CUDA、DML 和 TensorRT 等多种推理方式。文章详细说明了环境准备、模型配置、推理实现及性能对比,并提供代码示例和优化建议,以帮助开发者高效进行 OCR 部署。
本文介绍了一个使用ONNX模型进行图像超分辨率处理的C#应用程序。该程序通过OpenCV读取图像,进行预处理后,利用ONNX模型进行推理,最后显示并保存超分辨率结果。
本文介绍了一个使用ONNX模型的C#图像处理程序。该程序利用OpenCV读取图像,进行预处理、推理和后处理,最终生成带透明背景的图像,并支持保存功能。
这是一款高效的AI图片标注工具,专为YOLO目标检测模型设计,提升数据准备的效率与准确性。支持YOLO格式标注、AI自动推理和批量管理,适合个人研究和小型团队,简化传统标注流程。
本文介绍了如何将PyTorch、scikit-learn和TensorFlow/Keras模型导出为ONNX格式,并比较了PyTorch与ONNX Runtime在CPU上的推理准确性和速度。文章详细描述了在CIFAR-10数据集上微调ResNet-18模型、验证数值一致性以及将其他框架模型转换为ONNX格式的步骤。结果表明,ONNX在保持相同预测质量的同时,提供了更快的推理速度,简化了模型的部署过程。
我正在开发一个纯 Rust、零依赖的音频 AI 推理框架 lele,专注于语音交互,支持高效的模型编译与优化,并提供多种音频特征提取功能。
本文介绍了京东金融App在鸿蒙端成功部署Real-ESRGAN-General-x4v3超分辨率模型的过程,解决了ONNX模型转换、张量格式处理及基于CANN Kit的部署问题。未来,随着技术进步,端侧设备将具备更强的智能推理能力,推动人工智能服务的普及。
本文介绍了京东金融App在鸿蒙端成功部署Real-ESRGAN-General-x4v3超分辨率模型的过程,解决了ONNX模型转换、张量格式处理及基于CANN Kit的部署难题。未来,随着技术进步,端侧设备将具备更强的智能推理能力,推动人工智能的普惠发展。
开放神经网络交换(ONNX)是一种通用的机器学习模型格式,便于在不同平台上部署。本文介绍如何使用Java生成ONNX模型,并探讨基于ONNX的生成式AI大语言模型(LLM),通过实际示例演示LLM如何转换为ONNX格式并执行。
前端开发者应将AI模型视为本地资产,以提升隐私和性能,避免敏感数据传输。使用ONNX可在浏览器中运行模型,改善用户体验。未来的框架将围绕AI构建,需重视隐私和性能。
Vulkan 1.4.332版本发布,新增VK_QCOM_data_graph_model扩展,增强机器学习能力,支持新数据图管道类型,允许无缝导入ONNX模型。
SenseVoice是阿里开源的中日韩及粤语语音识别模型,使用ONNX Runtime实现Rust版本,支持多种音频格式,性能优于Python版,采用Silero VAD进行语音分割,使用简单。
基于DeploySharp的深度学习模型部署测试平台支持YOLO系列模型,兼容OpenVINO和ONNX,适用于多种设备,提供.NET 6.0和4.8版本,便于开发者在多种应用场景中使用。
完成下面两步后,将自动完成登录并继续当前操作。