通过Databricks Model Serving的新更新加速GenAI应用开发
原文英文,约1000词,阅读约需4分钟。发表于: 。Last year, we launched foundation model support in Databricks Model Serving to enable enterprises to build secure and custom GenAI apps on a...
Databricks Model Serving推出新的更新,包括访问新的大型语言模型、更容易的发现、简化的定制选项和改进的监控。这些改进帮助用户更快地开发和扩展GenAI应用,降低成本。用户可以通过统一的界面访问新的开源和专有模型,并通过统一的API和SQL接口进行比较、实验和选择最佳模型。Databricks还提供了新的功能,如个性化主页、通用搜索、向量搜索、函数调用、守护栏、秘密UI和推理表。推理表支持所有类型的端点监控,用户可以使用现有的数据工具评估、监控和优化AI模型。