DEV Community
·
如何在本地运行DeepSeek R1（使用Ollama和ChatboxAI）
内容提要
本指南介绍了如何在本地运行DeepSeek R1，包括系统要求、Ollama和ChatboxAI的安装步骤及常见问题解决方案。确保满足硬件要求后，按照步骤安装并运行模型，即可实现编程和AI聊天功能。
关键要点
- 本指南介绍如何在本地运行DeepSeek R1，包括系统要求和安装步骤。
- 不同模型有不同的硬件要求，需检查系统支持的模型。
- DeepSeek R1 1.5B需要集成GPU，4GB VRAM，8GB RAM和10GB存储。
- DeepSeek R1 7B需要GTX 1650或RTX 3050，6GB VRAM，16GB RAM和30GB存储。
- DeepSeek R1 14B需要RTX 3060或RTX 4060，12GB VRAM，32GB RAM和60GB存储。
- DeepSeek R1 33B需要RTX 4090或A100，24GB VRAM，64GB RAM和100GB存储。
- 安装Ollama是运行大型语言模型的第一步，Windows用户可直接下载安装，Mac用户需使用终端命令安装。
- 下载DeepSeek R1模型的命令为：ollama pull deepseek-ai/deepseek-coder:7b。
- 可选安装ChatboxAI以获得更好的图形用户界面体验。
- 运行DeepSeek R1的命令为：ollama run deepseek-ai/deepseek-coder:7b。
- 常见问题包括模型崩溃、响应缓慢和命令未找到，提供了相应的解决方案。
- 遵循本指南后，可以在本地运行DeepSeek R1，保护隐私且节省成本。
延伸问答
DeepSeek R1的系统要求是什么？
DeepSeek R1的系统要求根据模型不同而异，1.5B需要集成GPU、4GB VRAM、8GB RAM和10GB存储，7B需要GTX 1650或RTX 3050、6GB VRAM、16GB RAM和30GB存储，14B需要RTX 3060或RTX 4060、12GB VRAM、32GB RAM和60GB存储，33B需要RTX 4090或A100、24GB VRAM、64GB RAM和100GB存储。
如何在Windows上安装Ollama？
在Windows上安装Ollama，下载安装程序并安装，完成后打开CMD并运行命令：ollama run llama2以检查安装是否成功。
如何下载DeepSeek R1模型？
使用命令：ollama pull deepseek-ai/deepseek-coder:7b来下载DeepSeek R1模型。如果需要运行1.5B模型，则使用命令：ollama pull deepseek-ai/deepseek-coder:1.5b。
ChatboxAI的安装步骤是什么？
安装ChatboxAI前需确保安装Python 3.10以上，打开CMD并运行：git clone https://github.com/oobabooga/text-generation-webui.git，接着cd进入目录并运行：pip install -r requirements.txt，最后启动服务器：python server.py。
运行DeepSeek R1的命令是什么？
运行DeepSeek R1的命令为：ollama run deepseek-ai/deepseek-coder:7b。如果7B模型无法运行，可以尝试使用1.5B模型：ollama run deepseek-ai/deepseek-coder:1.5b。
常见问题有哪些，如何解决？
常见问题包括模型崩溃、响应缓慢和命令未找到。解决方案包括使用1.5B模型、增加虚拟内存、使用SSD、关闭后台应用和检查Ollama安装是否正确。
