使用MLflow AI Gateway和Llama 2构建生成式AI应用程序

MLflow AI Gateway扩展到更好地支持RAG应用程序，组织可以通过Databricks Model Serving集中管理私有托管模型API，并使用MosaicML开放模型API开发和部署RAG应用程序。本文介绍了在Databricks Lakehouse AI平台上构建和部署RAG应用程序的步骤，以及使用Llama2-70B-Chat模型和Instructor-XL模型进行文本生成和嵌入。RAG应用程序回答园艺问题并提供植物护理建议。