Visual Studio 现已正式推出“自带模型”功能

💡 原文英文,约600词,阅读约需3分钟。
📝

内容提要

Visual Studio 18.12 正式推出“自带模型”(BYOM)功能,无需 GitHub 登录即可使用自有或本地 AI 模型。该功能支持为同一提供商配置多个连接并命名区分,新增自定义端点提供商,可接入 OpenAI 兼容服务及 LM Studio 本地模型。用户可选择 API 格式并配置上下文大小、工具调用等参数,企业代理支持和组织策略管理也已改进。

🔎

延伸解读

多配置与自定义端点:更贴近真实开发场景

BYOM 允许为同一提供商保留多个命名连接,例如“工作”和“个人”,各自保存连接细节和模型,无需反复删除重加。新增的自定义端点提供商则专门面向自托管推理服务、AI 网关或组织提供的 OpenAI 兼容端点,也支持连接 LM Studio 本地模型。这意味着开发者不必再为不同项目或环境切换而牺牲配置便利性。

API 格式与模型参数可调:适配不同模型来源

添加自定义模型时,用户可选择 OpenAI 兼容的 Completions 或 Responses,或 Anthropic 兼容的 Messages 格式,并能在“管理模型”中查看和更改。此外,还可配置上下文大小、最大输出、工具调用和视觉支持等参数。这些选项让 BYOM 能更准确地匹配实际模型和部署能力,减少因格式或参数不匹配导致的使用障碍。

企业网络与策略支持:降低落地阻力

针对组织环境,BYOM 改进了代理支持,使提供商连接和 Agent Mode 都使用 Visual Studio 解析后的代理配置。管理员还可以通过组织策略启用或禁用 BYOM。如果用户看不到“添加模型提供商”,可能意味着管理员已关闭该功能。这表明该功能在个人实验之外,也开始考虑企业网络设置和集中管理需求。

无需 GitHub 登录:扩展离线与内网可用性

BYOM 不要求 GitHub 登录,即使无法访问 GitHub,仍可在 Visual Studio 中使用所选模型,包括气隙环境中的本地或内部托管模型,前提是模型端点可达且满足认证要求。这一设计降低了对外部账户体系的依赖,使更多受网络限制的团队也能尝试在 IDE 内接入自有 AI 模型。

❓

Q&A

Visual Studio 的 BYOM 功能是什么?

BYOM(Bring Your Own Model)是 Visual Studio 18.12 正式推出的功能,允许用户在不离开 Visual Studio 的情况下使用自己的 AI 模型,包括团队自托管模型、模型提供商的 API 密钥或本地运行的模型。无需 GitHub 登录。

如何在 Visual Studio 中配置自定义端点来使用本地模型?

在 Visual Studio 18.12 中,打开 Chat 并使用模型选择器选择“Manage models”,点击“Add model provider”,选择“Custom Endpoint”。输入端点 URL 和可选的 API 密钥。对于本地模型,可启动 LM Studio 服务器,然后添加其 OpenAI 兼容 URL,即可在 Agent Mode 中使用。

BYOM 支持为同一个提供商配置多个连接吗?

是的,BYOM 现在支持为同一个提供商保留多个配置,并可为每个配置命名(如“Work”和“Personal”)。每个配置保留自己的连接细节和模型,方便用户在不同场景间切换,无需删除再重新添加提供商。

BYOM 支持哪些 API 格式?

添加自定义模型时,可以选择提供商支持的 API 格式:OpenAI 兼容的 Completions 或 Responses,以及 Anthropic 兼容的 Messages。还可以在“Manage models”中查看和更改已配置的格式。

企业环境中使用 BYOM 有哪些管理支持?

BYOM 改进了代理支持,提供商连接和 Agent Mode 都会使用 Visual Studio 解析的代理配置。管理员可以通过组织策略启用或禁用 BYOM。如果看不到“Add model provider”,可能是管理员已禁用该功能。

使用 BYOM 需要 GitHub 登录吗?

不需要。BYOM 无需 GitHub 登录即可使用。即使无法访问 GitHub,只要模型端点可达且满足认证要求,仍可在 Visual Studio 中使用所选模型,包括气隙环境中的本地或内部托管模型。

🏷️

标签

➡️

继续阅读