Strata 0.2.7.1 发布:12GB 及以下显存加速,RTX 3060 生成代码快了 37%|支持 NVIDIA DGX Spark

Strata 0.2.7.1 发布:12GB 及以下显存加速,RTX 3060 生成代码快了 37%|支持 NVIDIA DGX Spark

💡 原文中文,约2300字,阅读约需6分钟。
📝

内容提要

Strata 0.2.7.1 发布,新增支持 NVIDIA DGX Spark,并让 Apple 芯片 Mac 可运行 DeepSeek V4.1-Flash。0.2.7 版重点优化 12GB 及以下显存的 NVIDIA 显卡,RTX 3060 生成代码速度提升 37%,普通文本提升约 15%;原理是优先选用已驻留显存的专家模型,代价是 Agent 任务通过率略降。此外还优化了 DeepSeek 提示词处理,新增超长上下文选项和网页聊天功能。

🔎

延伸解读

小显存加速的取舍:速度提升与任务通过率下降

Strata 0.2.7 针对 12GB 及以下显存的 NVIDIA 显卡,通过优先选用已驻留显存的专家模型来减少数据传输,从而提升推理速度。RTX 3060 上代码生成提速 37%,普通文本提升约 15%。但代价是专家选择可能变化,导致 Agent 自动化任务通过率略降:开启优化后 10 项任务平均通过 4.5 项,关闭时通过 5.6 项。开发者测试未发现文案或代码错误,但更激进的设置曾引发错误,因此正式版采用保守参数。

适用边界:哪些显卡默认受益,哪些不会

该加速功能默认仅对显存不超过 13GiB 的独立 NVIDIA 显卡开启,例如 RTX 3060 12GB、RTX 4060 8GB 等常见型号。其他显卡不会默认启用这项优化。这意味着拥有更大显存或非 NVIDIA 显卡的用户无法直接获得这一提速,需关注后续版本是否扩展支持范围。

平台扩展:DGX Spark 与 Apple 芯片 Mac 的新选择

0.2.7.1 新增对 NVIDIA DGX Spark(Linux ARM64)的支持,可运行 Qwen3.8-Flash-Next 和 DeepSeek V4.1-Flash,提示词处理速度提升约 20%~24%,但文本生成速度基本不变。同时,Apple 芯片 Mac 可运行 DeepSeek V4.1-Flash,需 128GB 统一内存和 250GB 以上磁盘空间,目前仅限命令行,短文本生成速度约 13–16 tok/s。

其他更新中值得留意的细节

DeepSeek-V4.1-Flash 的提示词处理在 RTX 5070 上 4K 提示词提升约 47%;新增 512K、1M 上下文配置选项,但超长输入尚未完成实际验证,使用时需谨慎。此外,DeepSeek 默认支持图片理解,Windows 上的 Ryzen AI Max 设备可运行 DeepSeek-V4.1-Flash,网页聊天界面增加了历史记录、搜索、编辑消息、对话分支及 HTML/SVG 预览等功能。

❓

Q&A

Strata 0.2.7 对 12GB 及以下显存的显卡做了哪些优化?效果如何?

Strata 0.2.7 重点优化了低显存 NVIDIA 显卡的推理性能,让模型在选择专家时优先考虑已驻留在显存中的专家,从而减少从内存传输数据的开销。在 RTX 3060 12GB 上运行 Qwen3.8-Flash-Next IQ3_XXS 模型时,普通文本生成速度从 46.2 提升至 53.1 tokens/s(约 15%),代码生成速度从 45.7 提升至 62.5 tokens/s(约 37%)。

Strata 0.2.7 的加速功能默认对哪些显卡开启?

该功能针对显存不超过 13GiB 的独立 NVIDIA 显卡默认开启,例如 RTX 3060 12GB、RTX 4060 8GB 等。其他显卡不会默认启用这项优化。

开启低显存加速后,对 Agent 任务有什么影响?

由于专家选择可能变化,生成结果可能与原来不同。开发者在 RTX 3060 12GB 上测试 80 项任务未发现文案或代码错误,但 Agent 自动化任务通过率略有下降:开启优化后 10 项任务平均通过 4.5 项,关闭时平均通过 5.6 项。

Strata 0.2.7.1 新增了对哪些硬件平台的支持?

Strata 0.2.7.1 新增支持 NVIDIA DGX Spark(Linux ARM64),可运行 Qwen3.8-Flash-Next 和 DeepSeek V4.1-Flash;同时 Apple 芯片 Mac 现在可以运行 DeepSeek V4.1-Flash,但暂时只能通过命令行运行。

在 Apple 芯片 Mac 上运行 DeepSeek V4.1-Flash 需要什么条件?速度如何?

需要拥有 128GB 统一内存(如 M5 Max)和 250GB 以上磁盘空间。在 M5 Max 上,DeepSeek 2.00 bpw 短文本生成速度为 15–16 tok/s,2.25 bpw 为 13–15 tok/s。目前仅支持命令行运行。

Strata 0.2.7 除了低显存加速,还有哪些值得关注的更新?

还包括:DeepSeek-V4.1-Flash 提示词处理速度优化(RTX 5070 上 4K 提示词提升约 47%);DeepSeek 新增 512K、1M 上下文配置选项(超长输入尚未实际验证);DeepSeek 默认支持图片理解;Windows 上的 Ryzen AI Max 设备可运行 DeepSeek-V4.1-Flash;网页聊天界面增加历史记录、搜索、编辑消息、对话分支及 HTML/SVG 预览。

🏷️

标签

➡️

继续阅读