亚马逊AWS官方博客
·
在 AWS 上通过宝塔面板私有化部署 DeepSeek-R1 蒸馏模型
💡
原文中文，约3300字，阅读约需8分钟。
📝
内容提要
亚马逊云科技推出 DeepSeek V3 和 R1 模型，支持在 Amazon Bedrock 和 SageMaker AI 部署。本文介绍如何在 EC2 上使用宝塔面板私有化部署 DeepSeek-R1 模型，步骤包括启动实例、安装宝塔面板、配置安全组和安装 OpenWebUI，以便用户与模型对话。
🎯
关键要点
- 亚马逊云科技推出 DeepSeek V3 和 R1 模型，支持在 Amazon Bedrock 和 SageMaker AI 部署。
- 本文介绍如何在 EC2 上使用宝塔面板私有化部署 DeepSeek-R1 模型。
- 部署方案适用于北京 BJS 和宁夏 ZHY 区域，易于搭建。
- 前提条件是已注册亚马逊中国区或海外区账户。
- 启动 EC2 实例时选择 Ubuntu 操作系统，实例类型为 t2.xlarge，存储为 32GiB。
- 连接实例后安装宝塔面板，并配置安全组以允许访问。
- 在宝塔面板中安装 Docker，并配置加速 URL。
- 通过 Docker 安装 Ollama 容器并运行 DeepSeek-R1 模型。
- 安装 OpenWebUI 以便更直观地与 DeepSeek-R1 模型对话。
- 完成部署后可通过浏览器访问 OpenWebUI，与模型进行交互。
➡️
