亚马逊AWS官方博客
·
Amazon Bedrock Guardrails 现提供支持图像的多模态毒舌监测功能（预览版）
💡
原文中文，约2400字，阅读约需6分钟。
📝
内容提要
亚马逊Bedrock Guardrails推出支持图像的多模态毒舌监测功能，能够检测和过滤不良图像内容，提升生成式AI应用的用户体验。用户可配置内容过滤器，阻止仇恨和侮辱等有害图像，确保应用的安全性和责任性。该功能适用于所有支持图像数据的基础模型，助力构建负责任的AI应用。
🎯
关键要点
- 亚马逊Bedrock Guardrails推出支持图像的多模态毒舌监测功能，能够检测和过滤不良图像内容。
- 用户可以配置内容过滤器，阻止仇恨、侮辱等有害图像，确保应用的安全性和责任性。
- 该功能适用于所有支持图像数据的基础模型，助力构建负责任的AI应用。
- 用户可以在AWS管理控制台中创建Guardrails，并配置内容过滤器以检测和阻止不良内容。
- 通过ApplyGuardrail API，用户可以在应用程序流程中的任何点验证内容。
- 多模态毒舌监测功能现已在多个AWS区域推出预览版，用户可以立即试用并提供反馈。
❓
延伸问答
亚马逊Bedrock Guardrails的多模态毒舌监测功能有什么作用？
该功能能够检测和过滤不良图像内容，提升生成式AI应用的用户体验。
用户如何配置内容过滤器以阻止有害图像？
用户可以在AWS管理控制台中创建Guardrails，并配置内容过滤器以检测和阻止仇恨、侮辱等有害图像。
多模态毒舌监测功能适用于哪些基础模型？
该功能适用于所有支持图像数据的基础模型，以及用户自带的任何自定义微调模型。
如何在应用程序中集成Amazon Bedrock Guardrails？
用户可以使用AWS SDK将Guardrails功能集成到应用程序中。
Amazon Bedrock Guardrails的预览版在哪些地区推出？
预览版已在美国东部、西部，亚太地区和欧洲地区的多个AWS区域推出。
如何测试Amazon Bedrock Guardrails的内容过滤器？
用户可以在控制台中选择Guardrails进行测试，或使用ApplyGuardrail API在不调用模型的情况下验证内容。
➡️
