GitHub Copilot 转向本地运行——但微软不愿透露哪些数据会被发送到云端

GitHub Copilot 转向本地运行——但微软不愿透露哪些数据会被发送到云端

💡 原文英文,约1000词,阅读约需4分钟。
📝

内容提要

GitHub Copilot 将于10月底推出自动路由,根据任务上下文和缓存状态决定编码任务在本地还是云端运行。微软未说明发送多少仓库数据到云端,也未说明开发者能否查看或限制路由。本地模型可保持推理在设备上,但工具仍可能联网。新模型 MAI Code 1.1 Flash 经量化压缩至53GB,性能接近全精度版。

🔎

延伸解读

自动路由的透明度缺失

微软未说明自动路由会将多少仓库上下文或对话历史发送到云端,也未提供查看或限制路由决策的方法。对于有严格数据处理政策的团队,这意味着他们无法确认Copilot是否将敏感代码发送到云端,增加了合规风险。

本地推理不等于完全离线

即使选择本地模型,Copilot的代理仍可能通过网络请求访问外部服务,例如远程MCP服务器。要实现完全本地会话,开发者还需限制工具的网络访问权限,否则数据仍可能外泄。

量化模型的性能与硬件门槛

MAI Code 1.1 Flash经量化压缩至53GB,在SWE-Bench Verified上得分70.8%,接近全精度版的72.6%。但运行需大内存,如Surface Laptop Ultra的128GB统一内存,峰值使用达75.5GB,大多数16GB或32GB内存的笔记本无法胜任。

沙箱保护的局限性

Copilot的沙箱对shell命令和本地MCP服务器提供操作系统级限制,但内置文件工具依赖代理内部检查,远程MCP服务器则不在本地沙箱内。因此,沙箱保护并非全覆盖,开发者需了解不同工具的保护差异。

❓

Q&A

GitHub Copilot 的自动路由功能什么时候推出?

自动路由预计在10月底推出。

Copilot 的自动路由如何决定任务在本地还是云端运行?

Copilot 会根据任务上下文和缓存状态来决定在本地还是云端运行,包括在多轮会话中。

微软是否公开了 Copilot 发送到云端的仓库数据量?

没有,微软尚未说明 Auto 会向云端模型发送多少仓库上下文,也未说明开发者能否查看或限制路由决策。

MAI Code 1.1 Flash 模型有多大?量化后性能如何?

MAI Code 1.1 Flash 是一个混合专家模型,总参数1370亿,激活参数68亿。经过约3.3位每权重的混合精度量化后,大小压缩至53GB,比bfloat16云端版本减少80%。在SWE-Bench Verified上得分70.8%,全精度版为72.6%;在Terminal-Bench 2.1上以66.29%对62.9%优于原始版本。

运行本地 Copilot 模型需要多少内存?

初始部署针对 NVIDIA RTX Spark Windows PC(如 Surface Laptop Ultra,最高128GB统一内存)。在256K令牌上下文下,峰值内存使用达75.5GB,这排除了大多数16GB或32GB内存的开发者笔记本。53GB的权重只是部分开销,操作系统、应用程序、推理运行时和键值缓存都需要空间,且缓存会随着代理读取文件和接收工具结果而增长。

Copilot 的沙箱控制如何保护本地和远程工具?

Copilot 使用微软开源的 Execution Containers (MXC) 库来执行沙箱策略,在 Windows 上使用 ProcessContainer 后端的 BaseContainer 层级,macOS 上使用 Seatbelt,Linux 上使用 bubblewrap。启用沙箱后,Copilot 对 shell 命令以及支持的本地 MCP 和语言服务器应用操作系统级限制,这些限制无论任务在本地还是云端模型运行都适用。内置文件工具在代理进程内运行,由 harness 根据沙箱策略检查请求,而非依赖操作系统隔离。远程 MCP 服务器不在本地沙箱内,启用 MCP 沙箱控制时 Copilot 会检查其连接策略。

🏷️

标签

➡️

继续阅读