亚马逊AWS官方博客
·
Amazon Bedrock 防护机制现在可以检测幻觉并保护使用自定义或第三方 FM 构建的应用程序
内容提要
Amazon Bedrock防护机制可根据应用程序要求和公司AI政策实施防护措施，防止不良内容、提示攻击和保护隐私。MAPFRE保险公司使用该机制确保聊天机器人符合安全政策和负责任的AI实践。新增功能包括上下文基准检查和ApplyGuardRail API，提高响应质量和保护应用程序。防护机制已在re:Invent 2023上发布，并支持四种防护措施。
关键要点
-
Amazon Bedrock 防护机制可根据应用程序要求和公司 AI 政策实施防护措施。
-
防护机制可以防止不良内容、阻止提示攻击并保护隐私。
-
MAPFRE 保险公司使用该机制确保聊天机器人符合安全政策和负责任的 AI 实践。
-
新增功能包括上下文基准检查和 ApplyGuardRail API，提高响应质量和保护应用程序。
-
防护机制在 re:Invent 2023 上发布，支持四种防护措施：被拒绝的主题、内容过滤器、敏感信息过滤器和文字过滤器。
-
上下文基准检查用于检测模型响应中的幻觉，提高响应质量。
-
ApplyGuardRail API 允许对自定义和第三方 FM 应用标准化的防护措施。
-
防护机制支持在生成式人工智能应用程序的不同阶段独立评估用户输入和模型响应。
-
上下文基准检查有两个过滤参数：基准和相关性，帮助提高响应的准确性。
-
上下文基准检查和 ApplyGuardRail API 已在所有 AWS 区域推出，用户可在 Amazon Bedrock 控制台试用。
延伸问答
Amazon Bedrock 防护机制的主要功能是什么？
Amazon Bedrock 防护机制可以防止不良内容、阻止提示攻击并保护隐私，支持多种防护措施。
MAPFRE 保险公司如何使用 Amazon Bedrock 防护机制？
MAPFRE 使用该机制确保其聊天机器人符合安全政策和负责任的 AI 实践，过滤有害内容并保护个人数据。
上下文基准检查的作用是什么？
上下文基准检查用于检测模型响应中的幻觉，提高响应的准确性和质量。
ApplyGuardRail API 有什么新功能？
ApplyGuardRail API 允许对自定义和第三方 FM 应用标准化的防护措施，增强了应用程序的灵活性。
Amazon Bedrock 防护机制支持哪些防护措施？
支持四种防护措施：被拒绝的主题、内容过滤器、敏感信息过滤器和文字过滤器。
如何配置上下文基准检查的阈值？
可以通过设置基准和相关性阈值来配置上下文基准检查，以控制模型响应的准确性。
