利用Amazon Bedrock推理配置文件追踪生成式AI成本
内容提要
本文介绍如何利用Amazon Bedrock应用推理配置文件与成本分配标签，按部门追踪生成式AI成本。通过为每个部门创建带标签的配置文件，并激活成本分配标签，可在Cost Explorer中查看各部门独立费用。文章详细说明了创建配置文件、激活标签、更新应用及查看成本的步骤，并提及清理资源与扩展功能。
延伸解读
成本归属的关键：推理配置文件与标签
文章指出，当多个团队共享同一个基础模型时，直接调用模型会在账单上显示为单一费用项，难以按部门分摊。通过为每个部门创建带标签的推理配置文件，并将应用路由到对应配置文件，即可将成本归属到具体团队。此方法不改变模型调用方式，仅需将modelId替换为配置文件ARN，且不产生额外费用。
实施要点与注意事项
激活成本分配标签后，成本数据可能需要24-48小时才能在Cost Explorer中显示。标签区分大小写，且需在管理账户中激活。若使用通配符策略，新增部门无需修改IAM；若限定ARN，则需更新策略。删除推理配置文件会立即影响使用该配置的应用，且重建后ARN会变化，需更新应用引用。
扩展功能与适用场景
该方案不仅适用于直接模型调用，还可通过引用同一配置文件ARN，将成本归属扩展到知识库（RAG）等高级功能。此外，可结合AWS Budgets设置部门预算警报，使用Cost Anomaly Detection检测异常支出，或通过CloudWatch监控令牌使用量。此方法适用于单一应用服务多个部门、无法按IAM身份区分成本的场景。
Q&A
如何利用Amazon Bedrock推理配置文件按部门追踪生成式AI成本？
通过为每个部门创建带标签的应用程序推理配置文件，并激活成本分配标签，然后在Cost Explorer中按标签分组查看成本。具体步骤包括：创建配置文件、添加Team标签、激活标签、更新应用使用配置文件ARN、在Cost Explorer中按Team分组查看。
Amazon Bedrock推理配置文件与直接调用基础模型相比，成本有何不同？
使用推理配置文件与直接调用模型相比，每令牌价格相同，不会产生额外费用。
创建Amazon Bedrock推理配置文件时，如何为部门添加标签？
在Amazon Bedrock控制台创建推理配置文件时，在Tags部分添加标签，例如Key为Team，Value为HR。
如何激活成本分配标签以便在Cost Explorer中查看部门成本？
在AWS Billing and Cost Management控制台，选择Cost allocation tags，搜索Team标签，选择并激活。标签激活后，成本数据可能需要24-48小时才能出现在Cost Explorer中。
在应用程序中如何通过推理配置文件路由请求以按部门归集成本？
在应用程序中，根据用户所属部门选择对应的推理配置文件ARN，并将其作为modelId参数传递给Amazon Bedrock API调用。例如，使用converse API时，将modelId设置为该部门的配置文件ARN。
在Cost Explorer中如何查看各部门的Amazon Bedrock成本？
在Cost Explorer中，设置日期范围，选择分组依据为Tag，然后选择Team标签，即可看到按部门分组的成本图表和表格。
使用推理配置文件进行成本归集时，IAM策略需要哪些权限？
IAM策略需要允许bedrock:InvokeModel和bedrock:InvokeModelWithResponseStream操作，资源包括推理配置文件ARN（可使用通配符）和基础模型ARN。
如何扩展此解决方案以支持更多部门？
为每个新部门创建带标签的推理配置文件，并在应用程序中映射该配置文件ARN。如果IAM策略使用通配符，则无需更改策略；如果策略指定了具体ARN，则需要添加新ARN。
清理此解决方案时需要删除哪些资源？
需要删除创建的推理配置文件、IAM策略（BedrockDepartmentAccessPolicy），并停用Team成本分配标签。注意删除配置文件会影响正在使用它的应用程序。
