DeepSeek R1是DeepSeek AI开发的创新语言模型，专为资源有限的边缘设备设计，特别适合Jetson Orin系列。该模型通过优化架构，显著降低了内存和计算需求，支持本地处理，适合隐私和延迟敏感的应用场景。文章还介绍了在Jetson Orin Nano Super上设置AI工具的过程，包括安装Ollama和OpenWebUI，并成功运行DeepSeek R1模型。

本文介绍了联邦语言模型的概念，使用云端的大型语言模型（LLM）和边缘设备上的小型语言模型（SLM）。作者使用Nvidia的Jetson Orin开发套件作为边缘设备，配置了轻量级模型服务器Ollama，利用GPU加速来加快Phi-3的推理速度。