Docker部署bge-m3/bge-reranker模型

安志合的学习博客 · 2025-12-22T15:34:57Z

在安装NVIDIA Container Toolkit之前，需确保已安装NVIDIA GPU驱动和Docker。根据操作系统使用相应命令安装工具包并配置Docker运行时。验证GPU支持后，可部署BGE-M3和BGE-Reranker模型，并执行命令启动服务进行测试。