管理概览：开源基础模型的崛起
内容提要
Databricks开发了DBRX，这是一个开源语言模型（LLM），允许组织对其数据进行控制并降低成本。DBRX使企业能够替代专有的SaaS模型，并根据自己的需求定制LLM。Databricks简化了ML生命周期的管理，并提供工具来确保模型输出的质量和准确性。DBRX在性能上超越其他开源模型，并提供经济高效的训练和部署。像JetBlue、Block、纳斯达克和埃森哲这样的组织已经在使用DBRX。Databricks通过按需付费的定价方式轻松访问DBRX，并提供私有托管选项。
延伸解读
企业采用开源模型的核心驱动力
文章指出，企业从概念验证转向生产部署生成式AI时，面临控制力、可靠性和数据治理的挑战。许多CIO因缺乏控制权、所有权、质量保证、性能不可预测以及扩展成本高昂，而不愿将模型投入生产。因此，越来越多的组织转向开源基础模型，以提升效率并降低成本。Databricks开发DBRX正是为了回应这一需求，让企业能用自己的数据构建LLM，并完全掌控数据、模型安全与质量。
DBRX如何解决数据安全与模型可控性问题
使用GPT-4等专有模型时，企业面临准确性、安全性和治理问题，尤其是将专有数据发送到云端可能带来风险。DBRX允许企业用开源模型替代专有SaaS模型，通过定制满足自身需求、数据和知识产权，无需将敏感数据发送到云端或专有工具。企业可以完全拥有模型和数据，并通过RAG、微调或预训练来增强DBRX，甚至从头构建自定义LLM。这使生产级模型的交付成为现实。
确保企业级模型输出质量的关键工具
在企业环境中，模型幻觉或不准确输出的后果远比消费级应用严重，可能损害利润和品牌。Databricks通过Data Intelligence Platform简化ML生命周期管理，并提供工具确保输出质量。例如，RAG模式可利用向量搜索找到相关文档，减少幻觉；平台还能监控模型质量、幻觉、毒性等，并检测PII等需过滤的数据。此外，安全与访问控制以及端到端血缘确保模型可审计，从而以标准化、受治理的方式将多个模型和用例从POC推向生产。
成本效益与性能优势的平衡
企业希望以可承受的成本获得与ChatGPT相当的质量。DBRX在语言理解、编程、数学和逻辑的标准基准上超越了其他开源模型以及ChatGPT（GPT-3.5）。Databricks的优化软件堆栈通过调优并行、自动恢复、自动内存调整和实时流数据集等技术，将构建大模型的成本降低最多10倍。此外，平台还提供专用的小型模型，用企业数据增强或微调后，能以更低成本达到类似大型基础模型的性能。
Q&A
DBRX是什么，它有什么优势？
DBRX是Databricks开发的开源语言模型，允许组织控制数据并降低成本，提供完全的数据控制和模型安全性。
使用DBRX的企业有哪些？
使用DBRX的企业包括JetBlue、Block、纳斯达克和埃森哲等。
DBRX如何降低构建和部署LLM的成本？
DBRX通过优化软件堆栈和提供小型模型，降低构建大模型的成本，最多可降低10倍。
Databricks如何确保模型输出的质量和准确性？
Databricks通过Data Intelligence Platform提供监控工具，确保模型输出的质量，减少幻觉和毒性。
DBRX与专有SaaS模型相比有什么不同？
DBRX允许企业定制模型，提供更好的数据控制和安全性，而专有SaaS模型通常缺乏这些灵活性。
如何开始使用DBRX？
可以通过Databricks Mosaic AI Foundation Model APIs快速开始使用DBRX，采用按需付费的定价方式。
