本地小语言模型（SLM）已成熟，可在笔记本或消费级GPU上运行，提供隐私保护、成本可控和低延迟优势。选择模型需考虑参数规模、任务特性和量化格式，Ollama工具简化部署。通过配置上下文窗口、温度和系统提示优化性能，适用于文档问答、编码助手和代理工作流。建议先用小型评估集验证模型质量，再逐步集成。