现代合成化学面临知识碎片化和应用效率低的问题。耶鲁大学提出的MOSAIC模型将大语言模型转化为专业化学专家协作系统，提升合成指导的准确性和效率，整合化学知识，提供高可重复性的实验流程，助力药物发现与材料开发。

随着市场营销向数字渠道转型，需求激增，现有聊天机器人难以满足品牌一致性和工作流程整合的要求。7-11推出了一款安全、快速的GenAI营销助手，能够高效生成创意，节省时间并提升创意质量。该助手通过多代理系统和人机协作，优化创意工作流程，使营销团队更专注于战略和创新。

许多组织在构建AI代理时面临的主要挑战是上下文而非模型。Mosaic AI的重排序功能提高了检索准确性，平均提升15个百分点，确保代理获取最相关的数据，从而提升回答的质量和一致性，适用于高质量的RAG代理系统。用户通过简单的参数设置即可快速实现高质量检索，显著改善代理性能。

模型上下文协议（MCP）在行业内迅速普及，为大型语言模型（LLM）提供工具和上下文。企业在使用MCP时面临治理和安全的挑战。结合Unity Catalog和Mosaic AI，用户可以安全地为代理提供数据智能。Databricks的托管服务器支持用户权限，简化数据访问和治理。

去年，Databricks推出了Mosaic AI堆栈，支持智能推理。今年在数据与AI峰会上，发布了多个新产品，包括Beta版Agent Bricks、MLflow 3.0、SQL中的AI功能和优化的向量搜索。这些创新提升了企业数据处理的效率。

Databricks Apps结合React前端和Mosaic AI框架，支持构建智能聊天应用。文章探讨了制造业管理聊天机器人的技术实现，强调Databricks的集成能力和AI代理框架的优势，以满足工业界对高效决策和用户体验的需求。

本文探讨如何在Databricks平台上开发生产就绪的智能代理系统，利用向量搜索和模型服务等功能。生成式AI在企业应用中具有变革性优势，但面临准确性、安全性和成本等挑战。Mosaic AI代理框架提供工具，帮助构建和管理生成式AI应用，通过评估驱动开发方法快速迭代模型，以实现高效的医疗费用计算等应用。

AWS和Azure已公开预览无服务器出口控制功能，支持多种Databricks产品。该功能集中管理无服务器工作负载的外部访问，提升数据安全，降低意外数据传输成本，确保合规性。用户可通过网络策略轻松配置出口控制，管理工作区的网络政策。

构建可扩展的生成式AI解决方案需要可靠的LLM端点。Databricks提供支持多种Llama模型的Provisioned Throughput端点，NVIDIA的Nemotron 70B模型在基准测试中表现优异。用户可通过Databricks托管模型，创建批量推理管道，生成新闻摘要，并利用MLflow评估摘要质量，确保内容高质量发布。

构建可扩展的生成式AI解决方案需要可靠的LLM可用性。Databricks提供高性能基础模型的Provisioned Throughput端点，支持Llama 3.1和3.2变体。用户可通过简单步骤创建端点，进行批量推理，并使用MLflow评估生成的新闻摘要质量，以确保内容高质量。

大型语言模型通过自然语言处理技术改变人机互动。RAG（检索增强生成）使用户能创建互动AI聊天机器人，未来可实现自主决策。Databricks推出的Mosaic AI代理框架帮助开发者构建支持多轮对话和复杂任务的生产级代理，核心组件包括中央代理、记忆、规划和工具，能智能响应用户查询。

普罗维登斯健康与Databricks合作，优化代码，支持300多个部门的准确预测，显著提升效率，已实现每日基线预测，并计划扩展至更多模型。

多年来，组织积累了大量非结构化文本数据，提取见解很有挑战。大型语言模型提供了可扩展的分析方法，尤其是批量推理。新方案支持在工作流中直接运行批量推理，提高处理速度和效率。Databricks平台简化了工作流，减少复杂性并节省时间。

许多客户正从单一模型转向复合AI系统，以提升生成式AI应用的质量。Databricks推出了Agent Framework的新功能，简化了构建复杂任务代理的过程。Mosaic AI提供了完整工具链，支持AI系统的治理、实验和部署。这些更新帮助企业更容易构建和部署高质量的AI代理。

Mosaic AI Gateway引入了新的功能，用于使用跟踪、负载日志记录和防护措施，以增强AI模型的安全性和治理。它简化了对AI模型的访问，捕获使用和负载数据，并使AI模型与数据的连接变得容易。此次更新为敏感数据和流量提供了生产级别的安全性和治理。Mosaic AI Gateway已被OMV和Edmunds等公司采用。

Twelve Labs Embed API和Databricks Mosaic AI Vector Search集成解决视频AI挑战，提高处理效率和内容表示准确性。集成简化部署架构，提高工作流效率，扩展Databricks生态系统。用户可使用自然语言探索视频库内容，生成视频摘要。集成开辟视频AI新可能性，包括内容推荐、视频搜索和内容审核工具。

Mosaic AI Vector Search宣布混合搜索的正式推出，将预训练的嵌入模型与关键词搜索相结合。混合搜索通过在向量搜索索引之上添加学习的关键词搜索索引来改善搜索结果。当数据集中存在公开可用的嵌入模型训练数据集中没有的关键词时，建议使用混合搜索。在Mosaic AI Vector Search中，可以轻松实现混合搜索，无需额外设置。它提高了召回率，减少了需要处理的块数，从而降低了延迟和处理成本。混合搜索的实现基于向量搜索和关键词搜索结果的Rank Reciprocal Fusion（RRF）。用户可以按照提供的说明开始使用混合搜索。