DEV Community
·
亚马逊Bedrock宣布支持推理配置文件的成本分配标签
💡
原文英文，约200词，阅读约需1分钟。
📝
内容提要
亚马逊Bedrock现支持客户按部门、团队或应用程序分配和跟踪基础模型使用成本，提供高性能模型和安全隐私功能，帮助客户构建定制应用，确保数据治理和客户信任。用户可创建推理配置文件以监控使用情况和成本。
🎯
关键要点
- 亚马逊Bedrock现在支持客户按部门、团队或应用程序分配和跟踪基础模型使用成本。
- 客户可以使用AWS成本分配标签来分类GenAI推理成本。
- 亚马逊Bedrock是一个完全托管的服务，通过单一API提供来自领先AI公司的高性能基础模型。
- 该服务提供安全、隐私和负责任的AI能力，帮助客户构建定制应用。
- 确保客户信任和数据治理是亚马逊Bedrock的重要功能。
- 用户可以创建应用推理配置文件并进行标记以利用这些功能。
- 推理配置文件是亚马逊Bedrock中的资源，定义模型和一个或多个区域。
- 推理配置文件可以路由模型调用请求。
- 推理配置文件的类型包括跨区域推理配置文件和应用推理配置文件。
- 使用推理配置文件的时机包括跟踪使用指标、使用标签监控成本和跨区域推理。
➡️
