Strata本地AI推理工具更新,新增实验性支持Apple Silicon Mac,并引入更轻量的Qwen3.6-35B-A3B模型以降低硬件门槛。该模型约35B参数、激活3B,支持MTP加速,生成速度提升约94%。运行需至少12GB显存、32GB内存,模型文件22GB起。Mac版需macOS 15以上,暂不支持该新模型。
6GB显存可运行Qwen3.6-35B-A3B-NVFP4,但需32GB以上内存,依赖CPU和PCIe。配置建议:Triton attention、memory-ratio 0.92、Prefill 2048、512专家槽。性能低于8GB的39.3 tok/s,适合短上下文和编码实验。需Ampere架构,逐步调优专家缓存和KV,实测不同后端。
MCP(模型上下文协议)是由Anthropic设计的开放标准,旨在解决本地AI开发中的工具连接问题。Qwen3.6-35B-A3B是当前最强大的本地模型,具有262,144个令牌的上下文窗口,能够高效处理多文件重构任务。本文介绍了如何构建一个本地的GitHub开发助手,自动读取问题、查找代码、草拟修复并创建拉取请求,所有操作均在本地完成,无需云依赖。
完成下面两步后,将自动完成登录并继续当前操作。