Strata本地AI推理工具更新,新增实验性支持Apple Silicon Mac,并引入更轻量的Qwen3.6-35B-A3B模型以降低硬件门槛。该模型约35B参数、激活3B,支持MTP加速,生成速度提升约94%。运行需至少12GB显存、32GB内存,模型文件22GB起。Mac版需macOS 15以上,暂不支持该新模型。
开源项目 openjev-sglang 使用 Qwen3.6-35B-A3B 模型和 SGLang 引擎复刻 TypeSafe 的 Jev 分类 API。其核心是 prefill-only 推理:仅做预填充,直接读取候选标签的概率分布,不生成文本,一次分类只需一个 token。借助 Radix Cache 复用共享前缀,N 个问题仅需 N+1 次预填充、零次解码,速度提升一个数量级。项目部署于 Modal 的 B200,支持 noul、choice、score 三类问题,并返回信心值。
JetBrains团队优化Qwen3.6-27B模型以支持Junie本地运行,通过扩展滚动上下文复用KV缓存、调整提示词顺序、禁用推理模式提升速度,并采用4位量化及优化推理引擎的预填充和投机解码。相比Qwen3.8,3.6无需推理模式,性能更佳,适合Mac硬件。
本文在AWS中国区实测llama.cpp部署Qwen3.6模型,对比Graviton4、Intel CPU和A10G GPU的MTP加速效果。GPU上MTP提升83%性能,CPU上反而降低18-40%。最佳实践:GPU用27B Dense+MTP,CPU用35B MoE关闭MTP,后者成本仅为GPU的26%,性能达82%。
本文探讨了在本地运行生成模型进行编码的可行性,分析了影响模型性能的因素,如内存、处理器核心、模型参数和推理能力。尽管小型模型在工具调用上存在困难,但Qwen3.6 35B MoE模型在能力、速度和内存占用方面表现最佳。总体而言,当前模型仍需改进,尚未实现简单的“即插即用”体验。
MCP(模型上下文协议)是由Anthropic设计的开放标准,旨在解决本地AI开发中的工具连接问题。Qwen3.6-35B-A3B是当前最强大的本地模型,具有262,144个令牌的上下文窗口,能够高效处理多文件重构任务。本文介绍了如何构建一个本地的GitHub开发助手,自动读取问题、查找代码、草拟修复并创建拉取请求,所有操作均在本地完成,无需云依赖。
本文讨论了本地编码模型的进展,重点介绍了Qwen3.6、Gemma 4和DiffusionGemma等模型的优势。Qwen3.6适合各种编码任务,Gemma 4支持多模态输入,适合处理文档和界面问题,而DiffusionGemma以高效生成著称,适合快速编码。这些模型为开发者提供了强大的本地编码支持。
科大讯飞的MaaS平台正在限免Qwen 3.6模型,支持高并发使用至6月30日。用户需注册并登录,创建应用后可获得API KEY,推荐使用陪读蛙进行网页翻译,并提供详细配置步骤。
文章讨论了在本地运行小型开源模型的可行性,特别是使用llama.cpp项目。作者分享了在Windows上使用3060显卡运行Qwen3.6 9B模型的设置,包括CUDA版本和参数配置。尽管显存有限,这些模型在简单任务中仍能有效使用。
Qwen团队推出了新版本Qwen3.6-27B,这是一个拥有270亿参数的多模态模型,支持视觉和文本理解。该模型在多个编程基准测试中表现优异,超越了前代版本,并在推理任务上取得了高分。HyperAI官网提供了快速部署该模型的教程。
阿里和Kimi在24小时内发布了Qwen3.6-Max和K2.6两个旗舰模型,分别针对企业托管服务和开源开发。Qwen3.6-Max强调知识和指令跟随能力,适合企业应用;K2.6则注重开源和本地部署,适合开发者。这一分化为用户提供了更多选择,标志着国产模型竞争进入新阶段。
Qwen3.6-35B-A3B 模型近日开源,性能优于 Qwen3.5 和 Gemma4 系列,编程基准测试显著提升,新增“思考过程留存”功能,简化开发流程。HyperAI 提供在线部署和教程,支持全球开发者快速体验。
阿里巴巴推出新一代大语言模型Qwen3.6-Plus,悟空应用率先接入。该模型在编程、智能体和任务规划等方面表现优异,超越多款竞争对手,能够自主完成复杂任务,降低企业使用门槛,提高效率。
阿里发布了Qwen3.6-Plus编程模型,性能接近Claude,具备强大的编程和智能体能力。该模型支持Vibe Coding和多模态理解,能够快速生成复杂网页和交互场景,显著降低编程门槛。在真实评测中表现优异,超越许多主流模型,未来将推出更多版本。
Qwen3.6 Plus 预览版已在 OpenRouter 上线,用户可免费试用。该模型由阿里云国际提供,具备强大的推理能力,适合编码和复杂问题解决。注册 OpenRouter 账号即可使用。
阿里巴巴在OpenRouter上发布了Qwen3.6 Plus模型,支持1M窗口和65.5K最大输出,响应时间为1.22秒,吞吐量为55个Token/秒,用户可免费使用。请注意,数据会被收集,避免在敏感环境中使用。
完成下面两步后,将自动完成登录并继续当前操作。