Databricks
·
通过Databricks Model Serving的新更新加速GenAI应用开发
💡
原文英文，约1000词，阅读约需4分钟。
📝
内容提要
Databricks Model Serving推出新的更新，包括访问新的大型语言模型、更容易的发现、简化的定制选项和改进的监控。这些改进帮助用户更快地开发和扩展GenAI应用，降低成本。用户可以通过统一的界面访问新的开源和专有模型，并通过统一的API和SQL接口进行比较、实验和选择最佳模型。Databricks还提供了新的功能，如个性化主页、通用搜索、向量搜索、函数调用、守护栏、秘密UI和推理表。推理表支持所有类型的端点监控，用户可以使用现有的数据工具评估、监控和优化AI模型。
🎯
关键要点
- Databricks Model Serving推出新更新，简化GenAI应用的实验、定制和部署。
- 新功能包括访问大型语言模型、简化的发现和定制选项、改进的监控。
- 用户可以通过统一接口访问开源和专有模型，便于比较和选择最佳模型。
- 新增的开源模型如DBRX和Llama-3提供先进的语言模型能力。
- 外部模型支持最新的专有模型，如Gemini Pro和Claude 3，确保安全管理。
- 新个性化主页和通用搜索功能简化模型发现过程。
- 支持通过LangChain和Python代码构建复合AI系统，简化端到端应用管理。
- 推理表支持所有类型的端点监控，帮助用户评估和优化AI模型。
- Databricks AI Playground提供直接尝试基础模型的机会。
➡️
