Redis Blog
·
Docugami：利用Redis Enterprise提升生成式AI性能
💡
原文英文，约1200词，阅读约需5分钟。
📝
内容提要
Docugami使用Redis Enterprise作为数据层，支持其生成AI系统的大型语言模型。使用Redis Enterprise后，Docugami看到了性能和可靠性的稳步提高。
🎯
关键要点
- 根据麦肯锡2023年8月的报告，近22%的知识工作者在工作中使用生成AI系统。
- Docugami拥有独特的大型语言模型，能够应用于企业商业文件。
- Docugami的商业文档基础模型可以提取企业文件中的关键信息，生成报告和新文档。
- Docugami使用Redis Enterprise作为数据层，提升了性能和可靠性。
- Docugami将客户的内部数据和商业文件进行处理，创建文档的层次表示。
- Docugami的AI算法将输出转换为“块嵌入”，并存储在Redis Enterprise中。
- Redis Enterprise支持从商业文件中进行基于聊天的检索，提升用户体验。
- Docugami使用Apache Spark进行文档处理，但Spark的架构导致了过多的I/O操作。
- Docugami在Kubernetes容器中部署Redis Enterprise，以实现灵活性和可扩展性。
- Redis Enterprise简化了Docugami的架构，解决了多个技术问题。
- Docugami的生成AI解决方案使用多种技术来处理非结构化数据。
- Redis Enterprise增强了Docugami的生成AI技术，提供了强大的搜索能力。
- Docugami计划使用Redis Enterprise进行语义缓存，以提高基础模型的性能。
- 自从标准化使用Redis Enterprise以来，Docugami在性能和可靠性上稳步提升。
- Jaffri认为，其他使用Apache Spark的生成AI企业也会面临类似问题。
- Docugami对Redis Enterprise的采用显著改善了其机器学习管道和文档处理操作。
➡️
