原文英文,约1000词,阅读约需4分钟。
📝
内容提要
Databricks Model Serving推出新的更新,包括访问新的大型语言模型、更容易的发现、简化的定制选项和改进的监控。这些改进帮助用户更快地开发和扩展GenAI应用,降低成本。用户可以通过统一的界面访问新的开源和专有模型,并通过统一的API和SQL接口进行比较、实验和选择最佳模型。Databricks还提供了新的功能,如个性化主页、通用搜索、向量搜索、函数调用、守护栏、秘密UI和推理表。推理表支持所有类型的端点监控,用户可以使用现有的数据工具评估、监控和优化AI模型。
❓
Q&A
Databricks Model Serving的新更新有哪些主要功能?
新更新包括访问大型语言模型、简化的发现和定制选项、改进的监控等功能。
如何通过Databricks访问开源和专有模型?
用户可以通过统一的API和SQL接口访问新的开源和专有模型,便于比较和选择最佳模型。
推理表在Databricks中有什么作用?
推理表支持所有类型的端点监控,帮助用户评估和优化AI模型。
Databricks如何简化GenAI应用的开发过程?
通过提供新的大型语言模型、个性化主页、通用搜索和改进的监控,Databricks简化了GenAI应用的实验、定制和部署。
Databricks的个性化主页有什么新功能?
个性化主页根据用户的常见操作和工作负载进行定制,展示最先进的模型以便于发现。
如何在Databricks中构建复合AI系统?
用户可以使用LangChain或Python代码部署自定义的编排逻辑,从而管理和部署端到端应用。
🏷️