小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
Strata 现已支持 macOS,还能运行更轻量的 Qwen3.6-35B-A3B 大模型了

Strata本地AI推理工具更新,新增实验性支持Apple Silicon Mac,并引入更轻量的Qwen3.6-35B-A3B模型以降低硬件门槛。该模型约35B参数、激活3B,支持MTP加速,生成速度提升约94%。运行需至少12GB显存、32GB内存,模型文件22GB起。Mac版需macOS 15以上,暂不支持该新模型。

Strata 现已支持 macOS,还能运行更轻量的 Qwen3.6-35B-A3B 大模型了

小众软件 小众软件 · 2026-10-16T03:31:28Z
6GB显存能跑35B MoE吗:FreeToken极限配置、性能压榨与实操教程

6GB显存可运行Qwen3.6-35B-A3B-NVFP4,但需32GB以上内存,依赖CPU和PCIe。配置建议:Triton attention、memory-ratio 0.92、Prefill 2048、512专家槽。性能低于8GB的39.3 tok/s,适合短上下文和编码实验。需Ampere架构,逐步调优专家缓存和KV,实测不同后端。

6GB显存能跑35B MoE吗:FreeToken极限配置、性能压榨与实操教程

Nicksxs's Blog Nicksxs's Blog · 2026-09-05T02:00:00Z

MCP(模型上下文协议)是由Anthropic设计的开放标准,旨在解决本地AI开发中的工具连接问题。Qwen3.6-35B-A3B是当前最强大的本地模型,具有262,144个令牌的上下文窗口,能够高效处理多文件重构任务。本文介绍了如何构建一个本地的GitHub开发助手,自动读取问题、查找代码、草拟修复并创建拉取请求,所有操作均在本地完成,无需云依赖。

构建本地AI系统:Qwen3.6 + MCP

KDnuggets KDnuggets · 2026-06-30T14:00:14Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码