使用 Amazon 人工智能内容审核服务，打造安全的图像生成和扩散模型

生成式人工智能技术发展迅速，现在可以根据文本生成图像。Stable Diffusion是一种文本转图像模型，可通过Amazon SageMaker JumpStart使用。本文介绍了使用Amazon Rekognition和Amazon Comprehend等技术进行实时审核的方法，包括负向提示列表、基于规则的审核条件和自定义分类器。同时讨论了审核的延迟和成本问题。