亚马逊AWS官方博客
·
Amazon Comprehend 新增功能 – 毒舌监察功能
💡
原文中文，约6400字，阅读约需16分钟。
📝
内容提要
亚马逊Comprehend新增检测恶意内容功能，帮助用户构建安全环境，适用于监测评论等外部贡献。该功能可通过AWS CLI和SDK使用，能分析文本并给出恶意内容评分。AWS SDK也支持编程方式检测，可与LLM结合使用以避免生成恶意内容。该服务在多个AWS区域提供，按输入字符数计费。
🎯
关键要点
- 亚马逊Comprehend新增检测恶意内容功能，帮助用户构建安全环境。
- 该功能适用于监测外部贡献，如评论，能够分析文本并给出恶意内容评分。
- 毒舌监察功能可通过AWS CLI和SDK使用，支持编程方式检测。
- AWS CLI中的detect-toxic-content子命令可以检测文本中的恶意内容，并返回标签和评分。
- 用户可以将输入作为文件传送，并检测不同级别的恶意内容。
- AWS SDK（Boto3）也可以用于检测应用程序中的恶意内容，支持编程方式。
- 结合LLM使用时，检测恶意内容的功能可以避免生成不当内容。
- Amazon Comprehend的毒舌监察功能在多个AWS区域提供，按输入字符数计费。
🏷️
标签
➡️
