亚马逊AWS官方博客
·
Amazon Bedrock 防护机制现在可以检测幻觉并保护使用自定义或第三方 FM 构建的应用程序
💡
原文中文，约5500字，阅读约需14分钟。
📝
内容提要
Amazon Bedrock防护机制可根据应用程序要求和公司AI政策实施防护措施，防止不良内容、提示攻击和保护隐私。MAPFRE保险公司使用该机制确保聊天机器人符合安全政策和负责任的AI实践。新增功能包括上下文基准检查和ApplyGuardRail API，提高响应质量和保护应用程序。防护机制已在re:Invent 2023上发布，并支持四种防护措施。
🎯
关键要点
- Amazon Bedrock 防护机制可根据应用程序要求和公司 AI 政策实施防护措施。
- 防护机制可以防止不良内容、阻止提示攻击并保护隐私。
- MAPFRE 保险公司使用该机制确保聊天机器人符合安全政策和负责任的 AI 实践。
- 新增功能包括上下文基准检查和 ApplyGuardRail API，提高响应质量和保护应用程序。
- 防护机制在 re:Invent 2023 上发布，支持四种防护措施：被拒绝的主题、内容过滤器、敏感信息过滤器和文字过滤器。
- 上下文基准检查用于检测模型响应中的幻觉，提高响应质量。
- ApplyGuardRail API 允许对自定义和第三方 FM 应用标准化的防护措施。
- 防护机制支持在生成式人工智能应用程序的不同阶段独立评估用户输入和模型响应。
- 上下文基准检查有两个过滤参数：基准和相关性，帮助提高响应的准确性。
- 上下文基准检查和 ApplyGuardRail API 已在所有 AWS 区域推出，用户可在 Amazon Bedrock 控制台试用。
➡️
