如鱼饮水
·
尝试使用PaddleOCR-VL
💡
原文中文，约7800字，阅读约需19分钟。
📝
内容提要
本文讨论了在WSL、Windows和Kaggle上部署PaddleOCR-VL的过程，指出了显存不释放和程序卡死等问题。作者分享了详细的安装步骤和代码示例，并提出了优化显存使用的方法。
🎯
关键要点
- 本文讨论了在WSL、Windows和Kaggle上部署PaddleOCR-VL的过程。
- 作者分享了详细的安装步骤和代码示例。
- 在WSL上部署时，需要安装特定版本的safetensors和确认PaddleX版本。
- 在Windows上部署时，遇到kernel未注册的错误，可以通过修改配置文件解决。
- 在Kaggle上部署时，建议选择GPU T4 x2，并使用多进程进行推理。
- 遇到的问题包括显存不释放和程序卡死，提供了相应的解决方法。
- 显存不释放的问题可以通过手动垃圾回收和设置环境变量解决。
- 程序卡死的问题可能与模型缓存有关，删除缓存后可能会改善情况。
- 使用生成器进行推理可以有效管理显存占用。
➡️
