亚马逊AWS官方博客
·
全新 Amazon Bedrock 服务层级助您兼顾 AI 工作负载的性能和成本
💡
原文中文，约2200字，阅读约需6分钟。
📝
内容提要
Amazon Bedrock推出了优先、标准和灵活三种服务层级，帮助用户在性能与成本之间取得平衡。优先层级适合关键任务，标准层级适合日常任务，灵活层级则为非紧急工作提供经济选择，用户可根据需求选择合适层级。
🎯
关键要点
- Amazon Bedrock推出了优先、标准和灵活三种服务层级。
- 优先层级适合关键任务，提供低延迟响应，价格较高。
- 标准层级适合日常任务，提供一致的性能。
- 灵活层级为非紧急工作提供经济选择，适合模型评测和内容摘要等任务。
- 用户可以根据工作负载需求选择合适的服务层级。
- AWS定价计算器可帮助估算不同服务层级的成本。
- 可以使用AWS服务配额控制台监控使用情况和成本。
- 用户可以为每次API调用选择服务层级，支持多种API请求。
❓
延伸问答
Amazon Bedrock的服务层级有哪些？
Amazon Bedrock提供优先、标准和灵活三种服务层级。
优先层级适合什么类型的任务？
优先层级适合关键任务型应用程序，如客户服务聊天助手和实时语言翻译服务。
如何选择合适的服务层级？
首先审查当前使用模式，确定哪些工作负载需要立即响应，哪些可以逐步处理，然后将流量路由到不同层级进行测试。
灵活层级的主要优势是什么？
灵活层级为不太紧急的工作负载提供经济高效的解决方案，适合模型评测和内容摘要等任务。
AWS定价计算器有什么用？
AWS定价计算器可帮助用户估算不同服务层级的成本，只需输入每个层级的预期工作负载即可。
如何监控Amazon Bedrock的使用情况和成本？
可以使用AWS服务配额控制台监控使用情况和成本，或启用模型调用日志记录并使用Amazon CloudWatch查看指标。
➡️
