InfoQ
·
DeepSeek发布V3.1版本，采用混合推理架构
💡
原文英文，约500词，阅读约需2分钟。
📝
内容提要
DeepSeek发布了V3.1版本的大型语言模型，采用混合架构，结合思考与非思考模式。新模型在推理速度和上下文窗口长度上优于前版本，参数量达到6710亿，表现出色，适合多步骤任务，具备高性价比。
🎯
关键要点
- DeepSeek发布了V3.1版本的大型语言模型，采用混合架构，结合思考与非思考模式。
- 新模型在推理速度和上下文窗口长度上优于前版本，参数量达到6710亿。
- 思考模式DeepSeek-V3.1-Think提供更快的推理速度，保持相似的响应质量。
- 模型通过两阶段上下文扩展策略，首次将上下文窗口扩展至32000个标记，第二阶段扩展至128000个标记。
- V3.1采用FP8 UE8M0精度格式，提升效率并兼容微缩技术。
- DeepSeek V3.1在开源编码和推理基准测试中表现优异，Aider基准得分71.6%。
- 社区对DeepSeek V3.1的看法不一，部分开发者认为其性价比高，是GPT或Claude的替代品。
- 模型可通过多个平台获取，包括Hugging Face、OpenRouter和Replicate，并提供官方API文档。
- 与DeepSeek-V3相比，V3.1在效率与推理能力之间寻求平衡，旨在解决多步骤推理任务的挑战。
❓
延伸问答
DeepSeek V3.1的主要特点是什么？
DeepSeek V3.1采用混合架构，结合思考与非思考模式，参数量达到6710亿，推理速度和上下文窗口长度优于前版本。
DeepSeek V3.1如何提高推理速度？
DeepSeek V3.1通过思考模式DeepSeek-V3.1-Think提供更快的推理速度，同时保持相似的响应质量。
DeepSeek V3.1的上下文窗口长度是多少？
DeepSeek V3.1的上下文窗口长度首次扩展至32000个标记，第二阶段扩展至128000个标记。
DeepSeek V3.1在基准测试中的表现如何？
DeepSeek V3.1在Aider基准测试中得分71.6%，表现优于Claude 4，接近GPT-4。
DeepSeek V3.1的性价比如何？
部分开发者认为DeepSeek V3.1性价比高，适合作为GPT或Claude的替代品，运行成本低。
DeepSeek V3.1可以在哪些平台上获取？
DeepSeek V3.1可以通过Hugging Face、OpenRouter和Replicate等多个平台获取，并提供官方API文档。
➡️
