TensorRtSharp:在 C# 世界中释放 GPU 推理的极致性能

📝

内容提要

通过提供类型安全的 API、自动资源管理和完善的异常处理,TensorRtSharp 让 C# 开发者能够充分发挥 GPU 的计算能力,而无需面对复杂的原生代码。项目示例使用了四张图片进行同时推理,开启并行处理后,四张图像预处理时间仅用21ms,推理时间为25ms,后处理时间为26ms,累计时间为72ms.通过 P/Invoke 技术,它将 TensorRT 的原生 C++ API...

🏷️

标签

➡️

继续阅读