DEV Community
·
在树莓派上本地运行DeepSeek R1
💡
原文英文，约1100词，阅读约需4分钟。
📝
内容提要
DeepSeek R1在树莓派5上运行可行，1.5B模型表现尚可，速度约6.12个token/秒，适合轻量级任务；7B模型速度极慢，不推荐使用，适合教育实验和边缘AI原型开发。
🎯
关键要点
- DeepSeek R1在树莓派5上运行可行，适合轻量级任务。
- 1.5B模型表现尚可，速度约6.12个token/秒，适合原型开发和教育实验。
- 7B模型速度极慢，仅约1.43个token/秒，不推荐使用。
- 需要准备树莓派5、MicroSD卡、稳定的电源和网络连接。
- 安装Ollama工具以便在树莓派上运行LLM。
- 可以通过Docker运行基于DeepSeek R1的聊天应用。
- 在树莓派集群上运行DeepSeek模型的实验性尝试，未能提高速度。
- 建议使用量化模型以提高性能，避免GUI开销。
➡️
