Amazon Bedrock 防护机制现在可以检测幻觉并保护使用自定义或第三方 FM 构建的应用程序
原文中文，约5500字，阅读约需14分钟。
📝
内容提要
Amazon Bedrock防护机制可根据应用程序要求和公司AI政策实施防护措施，防止不良内容、提示攻击和保护隐私。MAPFRE保险公司使用该机制确保聊天机器人符合安全政策和负责任的AI实践。新增功能包括上下文基准检查和ApplyGuardRail API，提高响应质量和保护应用程序。防护机制已在re:Invent 2023上发布，并支持四种防护措施。
❓
Q&A
Amazon Bedrock 防护机制的主要功能是什么？
Amazon Bedrock 防护机制可以防止不良内容、阻止提示攻击并保护隐私，支持多种防护措施。
MAPFRE 保险公司如何使用 Amazon Bedrock 防护机制？
MAPFRE 使用该机制确保其聊天机器人符合安全政策和负责任的 AI 实践，过滤有害内容并保护个人数据。
上下文基准检查的作用是什么？
上下文基准检查用于检测模型响应中的幻觉，提高响应的准确性和质量。
ApplyGuardRail API 有什么新功能？
ApplyGuardRail API 允许对自定义和第三方 FM 应用标准化的防护措施，增强了应用程序的灵活性。
Amazon Bedrock 防护机制支持哪些防护措施？
支持四种防护措施：被拒绝的主题、内容过滤器、敏感信息过滤器和文字过滤器。
如何配置上下文基准检查的阈值？
可以通过设置基准和相关性阈值来配置上下文基准检查，以控制模型响应的准确性。
🏷️
