企业AI需要上下文知识以在特定环境中有效运作。基础模型在通用问题上表现良好,但缺乏对公司内部知识的理解。通过构建内部知识库并与AI系统结合,可以提高AI的准确性和可靠性。Uber的Genie助手展示了如何利用上下文解决工程师常见问题,提升工作效率。构建上下文层需要技术基础设施和组织承诺,但能显著提升AI的实际价值。
Retrieval Augmented Generation (RAG)是一种将大型语言模型(LLM)与内部知识库的新数据相结合的生成式AI技术,以生成更可靠的回答。RAG通过从知识库中检索相关信息并使用它来生成回答。RAG系统由语义搜索层和生成层组成。语义搜索层通过将文档转化为嵌入向量来构建知识库。生成层包括一个LLM和一个提示,指示LLM生成什么样的回答。RAG通过提供最新信息和减少AI幻觉来提高LLM的性能。
eBay通过三种方式提升开发者生产力:使用商业产品(如GitHub Copilot)、微调大型语言模型(如eBayCoder)和建立内部知识库。Copilot提高了开发者的感知生产力和代码接受率,但处理数据量有限。微调LLM简化软件维护,减少代码重复。内部GPT系统帮助开发者快速获取信息,提升工作效率。生成式AI在提升开发者生产力方面具有显著潜力。
完成下面两步后,将自动完成登录并继续当前操作。