在 AWS 上通过宝塔面板私有化部署 DeepSeek-R1 蒸馏模型

在 AWS 上通过宝塔面板私有化部署 DeepSeek-R1 蒸馏模型

💡 原文中文,约3300字,阅读约需8分钟。
📝

内容提要

亚马逊云科技推出 DeepSeek V3 和 R1 模型,支持在 Amazon Bedrock 和 SageMaker AI 部署。本文介绍如何在 EC2 上使用宝塔面板私有化部署 DeepSeek-R1 模型,步骤包括启动实例、安装宝塔面板、配置安全组和安装 OpenWebUI,以便用户与模型对话。

🎯

关键要点

  • 亚马逊云科技推出 DeepSeek V3 和 R1 模型,支持在 Amazon Bedrock 和 SageMaker AI 部署。
  • 本文介绍如何在 EC2 上使用宝塔面板私有化部署 DeepSeek-R1 模型。
  • 部署方案适用于北京 BJS 和宁夏 ZHY 区域,易于搭建。
  • 前提条件是已注册亚马逊中国区或海外区账户。
  • 启动 EC2 实例时选择 Ubuntu 操作系统,实例类型为 t2.xlarge,存储为 32GiB。
  • 连接实例后安装宝塔面板,并配置安全组以允许访问。
  • 在宝塔面板中安装 Docker,并配置加速 URL。
  • 通过 Docker 安装 Ollama 容器并运行 DeepSeek-R1 模型。
  • 安装 OpenWebUI 以便更直观地与 DeepSeek-R1 模型对话。
  • 完成部署后可通过浏览器访问 OpenWebUI,与模型进行交互。

延伸问答

如何在 AWS 上私有化部署 DeepSeek-R1 模型?

在 AWS 上私有化部署 DeepSeek-R1 模型的步骤包括启动 EC2 实例、安装宝塔面板、配置安全组、安装 Docker 和 Ollama 容器,以及安装 OpenWebUI。

部署 DeepSeek-R1 模型需要哪些前提条件?

需要已注册亚马逊中国区或海外区账户,并选择 Ubuntu 操作系统的 EC2 实例,实例类型为 t2.xlarge,存储为 32GiB。

如何配置安全组以允许访问宝塔面板?

在 EC2 实例界面中,选中实例后点击“安全”,编辑入站规则,添加自定义 TCP 规则,端口为宝塔外网面板地址中的端口号,源选择 0.0.0/0。

如何通过 OpenWebUI 与 DeepSeek-R1 模型进行交互?

安装 OpenWebUI 后,在浏览器中输入 EC2 实例公共 IPv4 地址和端口 3000,设置管理员信息后即可与 DeepSeek-R1 模型进行交互。

DeepSeek-R1 模型的部署适用于哪些区域?

该部署方案适用于北京 BJS 和宁夏 ZHY 区域。

在部署过程中如何安装 Docker?

在宝塔面板中选择 Docker,首次使用需要安装,点击安装并配置加速 URL,然后重启 Docker。

➡️

继续阅读