DEV Community
·
亚马逊Bedrock宣布支持推理配置文件的成本分配标签
💡
原文英文，约200词，阅读约需1分钟。
📝
内容提要
亚马逊Bedrock现支持客户按部门、团队或应用程序分配和跟踪基础模型使用成本，提供高性能模型和安全隐私功能，帮助客户构建定制应用，确保数据治理和客户信任。用户可创建推理配置文件以监控使用情况和成本。
🎯
关键要点
- 亚马逊Bedrock现在支持客户按部门、团队或应用程序分配和跟踪基础模型使用成本。
- 客户可以使用AWS成本分配标签来分类GenAI推理成本。
- 亚马逊Bedrock是一个完全托管的服务，通过单一API提供来自领先AI公司的高性能基础模型。
- 该服务提供安全、隐私和负责任的AI能力，帮助客户构建定制应用。
- 确保客户信任和数据治理是亚马逊Bedrock的重要功能。
- 用户可以创建应用推理配置文件并进行标记以利用这些功能。
- 推理配置文件是亚马逊Bedrock中的资源，定义模型和一个或多个区域。
- 推理配置文件可以路由模型调用请求。
- 推理配置文件的类型包括跨区域推理配置文件和应用推理配置文件。
- 使用推理配置文件的时机包括跟踪使用指标、使用标签监控成本和跨区域推理。
❓
延伸问答
亚马逊Bedrock的主要功能是什么？
亚马逊Bedrock是一个完全托管的服务，提供高性能基础模型，并具备安全、隐私和负责任的AI能力，帮助客户构建定制应用。
如何使用AWS成本分配标签来管理推理成本？
客户可以使用AWS成本分配标签按部门、团队或应用程序分类GenAI推理成本，从而更好地跟踪和管理使用情况。
推理配置文件在亚马逊Bedrock中有什么作用？
推理配置文件是定义模型和区域的资源，可以路由模型调用请求，并用于跟踪使用指标和监控成本。
推理配置文件有哪些类型？
推理配置文件包括跨区域推理配置文件和应用推理配置文件。
亚马逊Bedrock如何确保客户信任和数据治理？
亚马逊Bedrock通过提供安全和负责任的AI能力，确保客户信任和数据治理。
何时应该使用推理配置文件？
推理配置文件适用于跟踪使用指标、使用标签监控成本和进行跨区域推理时。
➡️
