定制和微调大型语言模型：你需要了解的内容
内容提要
本文介绍了使用AI编码助手提供定制化编码建议的方法，包括使用大型语言模型和转换器架构来生成相关的代码建议。还介绍了定制LLMs的方法，如检索增强生成、上下文学习和微调。定制化的AI编码助手可以提高开发效率、加强代码导航和理解，并促进团队协作。文章还提供了一些最佳实践，如选择使用RAG的AI解决方案、采用内部源代码实践和整合搜索引擎等。预计企业软件工程师将越来越多地使用机器学习驱动的编码工具。
延伸解读
定制与训练的区别
文章明确指出，定制LLM不同于训练LLM。训练是构建深度学习的脚手架和神经网络，而定制是让预训练模型适应特定任务，例如生成特定仓库的信息或将遗留代码更新为另一种语言。理解这一区别有助于组织合理规划资源，避免将定制误认为需要从头训练模型。
RAG如何提升代码建议的准确性
检索增强生成（RAG）通过嵌入技术从向量数据库中检索信息，将源代码转化为可检索数据，同时保留其语义复杂性和细微差别。这意味着基于RAG的编码助手能针对私有仓库或专有源代码生成相关答案，并利用外部搜索引擎的信息。向量数据库存储代码和文档的嵌入，使LLM能够进行近似匹配，从而提升语义理解，找到与开发者代码或问题相关的数据作为上下文。
微调方法的权衡
微调模型可通过监督学习和人类反馈强化学习（RLHF）实现。监督学习需要预定义的正确答案，但即使较小的模型也可能有超过3亿个参数，调整这些变量耗时且需要大量标注。RLHF则依赖直接人类反馈或训练奖励模型来预测用户接受或拒绝输出，其优势在于无需监督学习，并扩大了可接受输出的标准。组织应根据任务需求和资源选择合适方法。
企业采用定制LLM的实践建议
文章建议选择使用RAG的AI解决方案，并采用内部源代码实践，如将知识记录下来并使其易于发现，以提供更多上下文。整合搜索引擎可以扩展LLM的结果，例如当LLM训练数据未包含最新Java版本时，仍能通过网页搜索获取答案。这些实践有助于组织更好地利用数据，提高信息检索准确性，并促进团队协作。
Q&A
AI编码助手如何提供定制化的编码建议？
AI编码助手通过理解上下文来提供定制化答案。它们使用来自打开文件、光标前后代码、索引仓库、自定义知识库、开发者提示以及搜索引擎集成等数据，通过上下文窗口处理，生成与开发者当前任务相关的建议。
定制大型语言模型有哪些主要方法？
定制大型语言模型的主要方法包括检索增强生成（RAG）、上下文学习（提示工程）和微调。微调又可分为监督学习和基于人类反馈的强化学习（RLHF）。
检索增强生成（RAG）是如何工作的？
RAG使用嵌入技术从向量数据库中检索信息。向量数据库存储代码和文档的嵌入，保持语义复杂性。当开发者提问时，算法将代码片段或自然语言问题转换为嵌入，并与数据库中的嵌入进行近似匹配，从而找到相关数据作为上下文，生成有用的回答。
定制AI编码助手对组织有什么好处？
定制AI编码助手能提高开发效率，加强代码导航和理解，促进团队协作。它帮助开发者更快实现功能、解决问题和现代化代码，同时让非开发人员也能通过自然语言获取文档和解决方案，改善跨团队协作。
如何通过最佳实践来定制LLM？
最佳实践包括：选择使用RAG的AI解决方案，如GitHub Copilot Enterprise；采用内部开源（innersource）实践，鼓励编写和分享文档；整合搜索引擎以扩展LLM的结果，提高信息检索的准确性。
GitHub Copilot Enterprise如何定制编码建议？
GitHub Copilot Enterprise通过索引组织的代码库到向量数据库，并创建知识库（Markdown文件），为开发者提供定制化的编码建议。它还能生成拉取请求摘要，帮助代码审查，并让非开发人员也能使用Copilot Chat获取指导。
未来企业软件工程师使用AI编码工具的趋势如何？
根据Gartner的预测，到2027年，50%的企业软件工程师将使用机器学习驱动的编码工具。开发者将越来越多地使用AI编码助手来加速代码翻译、测试覆盖、解决问题，并在IDE内获取定制化答案。
