Ollama首次尝试受阻后,Claude Desktop现可轻松运行Qwen、DeepSeek和Kimi模型

Ollama首次尝试受阻后,Claude Desktop现可轻松运行Qwen、DeepSeek和Kimi模型

💡 原文英文,约900词,阅读约需4分钟。
📝

内容提要

Ollama重新推出与Claude Desktop的集成,允许用户通过Ollama连接本地或云端模型(如Qwen、DeepSeek等),在Claude界面内使用。此功能支持Mac应用,用户可切换模型,强调成本、速度和灵活性。Ollama旨在让开源模型更易用,未来或支持Windows。

🔎

延伸解读

集成背后的技术路径

此次集成并非简单地将Ollama模型列表嵌入Claude Desktop,而是通过Ollama v0.33.0引入的专用本地代理,将Claude Desktop的第三方网关配置指向Ollama。用户可在Ollama应用中一键切换,Ollama会自动配置Claude Desktop的网关,关闭时恢复原设置。这种设计绕过了此前因模型ID不匹配导致的兼容性问题,使得非Anthropic模型能够正常响应。

模型映射与使用场景

启用后,Claude Desktop的模型选择器中会出现Ollama提供的模型,用户可自由选择本地或云端模型。Ollama还允许用户将Claude Desktop原有的模型槽位(如Opus、Sonnet)映射到不同的Ollama模型,例如将Opus映射到Kimi K3,Sonnet映射到DeepSeek V4 Pro。这种映射机制让用户能在熟悉的界面中灵活切换不同模型,兼顾成本、速度和定制化需求。

与Claude Code的异同

此前,开发者已可通过Claude Code(Anthropic的终端编码代理)连接Ollama的Anthropic兼容API来使用本地或云端模型。此次更新将类似功能直接带入Claude Desktop应用,使得非终端用户也能享受这一便利。两者本质相同,但Claude Desktop的集成降低了使用门槛,让更广泛的用户群体能够在不离开桌面应用的情况下利用开源模型。

当前限制与未来展望

目前该集成仅支持Mac版Ollama应用,Windows支持尚未明确,但Ollama在社交媒体上暗示可能正在开发中。此外,用户需注意,虽然可以切换模型,但Claude Desktop的Auto模式仍保留,该模式会决定何时请求用户权限。此次更新是Ollama推动开放模型普及战略的一部分,旨在让开发者继续使用现有工具,同时由Ollama提供底层模型。

Q&A

Ollama与Claude Desktop的集成是什么?

Ollama重新推出了与Claude Desktop的集成,允许用户在Claude Desktop界面内使用Ollama提供的模型,包括本地运行的模型和云端模型,如Qwen、DeepSeek、Kimi和GLM。

如何在Claude Desktop中启用Ollama模型?

用户需要打开Ollama应用,选择Claude并开启集成开关,Ollama会自动配置Claude Desktop的第三方网关。之后,在Claude Desktop的模型选择器中就可以看到Ollama提供的模型。

为什么用户会选择通过Claude Desktop使用Ollama模型而不是直接使用Claude?

主要原因是选择多样性,包括成本、速度和可移植性,以及能够使用针对开发者自身数据微调的模型。用户可以在本地或云端模型之间选择,同时仍然可以使用Anthropic的模型。

Ollama与Claude Desktop的集成和与Claude Code的集成有何不同?

Claude Code是Anthropic的终端编码代理,之前已经可以通过Ollama的Anthropic兼容API使用本地或云端模型。而这次的新集成将相同的功能带到了Claude Desktop应用中,使用户可以在桌面应用内直接使用Ollama模型。

Ollama与Claude Desktop的集成支持哪些平台?

目前该集成仅限于Ollama的Mac应用,但Ollama在X上的回复暗示未来可能会支持Windows。

Ollama与Claude Desktop的集成在之前遇到过什么问题?

在2024年1月,Ollama添加了对Anthropic Messages API的支持,允许Claude Code使用Ollama模型。4月,Anthropic在Claude Desktop中增加了开发者设置,允许连接第三方网关,Ollama推出了相关配置,但几天后由于Claude Desktop更新,网关拒绝了非Anthropic模型ID,导致集成失效。

Ollama的CEO Jeffrey Morgan对开放模型的未来有何看法?

Jeffrey Morgan表示,开放模型应该易于运行、易于构建,并且可以在任何需要的地方使用,包括本地机器和云端。他认为AI的未来是开放模型在完成工作的地方运行,而Ollama将推动这一转变。

🏷️

标签

➡️

继续阅读