使用免费、自托管和私密的Copilot简化代码编写

💡 原文英文,约900词,阅读约需3分钟。
📝

内容提要

本文介绍了如何使用自托管LLM在VSCode中创建免费代码助手,提供更大的自定义控制权、数据隐私和安全性。通过Ollama服务器和Continue插件,开发者可以获得实时的代码建议和完成。

🔎

延伸解读

自托管LLM的核心优势

文章指出,自托管LLM让开发者完全掌控模型定制,并能确保敏感数据保留在自有基础设施内,避免与第三方服务共享。这解决了云服务常见的数据隐私和安全顾虑,同时消除了订阅费用。对于处理敏感代码或受合规约束的团队,这种方案提供了更高的自主权和成本效益。

配置Continue插件的关键步骤

在VSCode中集成自托管LLM需安装Continue插件,并编辑其配置文件。MacOS和Linux的路径是~/.continue/config.json,Windows则是%userprofile%\.continue\config.json。在models列表中添加Ollama服务器上的模型,如deepseek-coder和llama3.1,并指定apiBase地址。保存后即可在Continue聊天菜单中测试连接。

实际测试与Copilot替代方案

配置完成后,可通过发送测试消息验证LLM是否正常工作。文章还演示了用Continue作为Copilot替代:创建一个Golang CLI应用,通过Ctrl+I打开Continue上下文菜单并输入详细提示,让模型生成代码。这展示了自托管助手在真实开发任务中的代码生成能力,但需注意模型性能可能因硬件和模型规模而异。

❓

Q&A

如何在VSCode中使用自托管的LLM创建代码助手?

可以通过Ollama服务器和Continue插件在VSCode中创建自托管的LLM代码助手。

自托管LLM的主要优势是什么?

自托管LLM提供更大的自定义控制权,确保数据隐私和安全性。

如何安装Continue插件以集成LLM?

在VSCode中安装Continue插件,并根据操作系统编辑配置文件以添加Ollama服务器上的模型。

如何测试Ollama LLM是否在VSCode中正常工作?

可以通过在Continue扩展的聊天菜单中发送测试消息来验证Ollama LLM的工作状态。

使用Ollama和Continue作为Copilot的替代方案有什么步骤?

创建一个Golang CLI应用程序,满足特定功能要求,并使用Continue与Ollama进行交互。

在不同操作系统中,Continue插件的配置文件位置在哪里?

在MacOS和Linux中,配置文件位于~/.continue/config.json;在Windows中,位于%userprofile%\.continue\config.json。

🏷️

标签

➡️

继续阅读