极道
·
腾讯使用大语言模型增强基于Doris的OLAP服务
💡
原文中文，约700字，阅读约需2分钟。
📝
内容提要
腾讯利用LLM增强基于Apache Doris的OLAP服务，通过引入语义层、优化LLM解析规则、添加Schema Mapper和外部知识库等方式克服LLM的局限性。使用语义层可以确保结果一致并建立对LLM的信任。其他公司也在使用语义层来提高基于LLM的分析的准确性和质量。
🎯
关键要点
- 腾讯利用大型语言模型 (LLM) 增强基于 Apache Doris 的 OLAP 服务。
- LLM 将自然语言问题转换为 SQL 语句，但在理解数据术语方面存在局限性。
- 腾讯通过引入语义层、优化 LLM 解析规则、添加 Schema Mapper 和外部知识库来克服 LLM 的局限性。
- 使用语义层可以确保结果一致并建立对 LLM 的信任。
- Delphi 和 Definite 等公司也在使用语义层提高基于 LLM 的分析准确性和质量。
- 语义层的使用允许对聚合和度量等元素进行编码。
- 更多公司需要专注于通过 LLM 建立对数据和模式 schema 的新理解。
- 组织面临根据不同受众和环境以不同方式解释数据的挑战。
- Approximate Labs 和 Veezoo 等公司正在构建对话式查询，以确保业务逻辑和治理得到尊重。
➡️
