The Verge
·
消费者安全组织要求对Grok的‘Spicy’模式进行FTC调查
💡
原文英文，约700词，阅读约需3分钟。
📝
内容提要
消费者安全组织要求对Elon Musk的Grok进行调查，特别是其新推出的“Imagine”工具。该工具的“Spicy”模式能够生成不当内容，首次测试便生成了Taylor Swift的裸体深度伪造视频。组织担心该模式可能导致未成年人生成色情图像，并呼吁调查其潜在的法律违规行为。
🎯
关键要点
- 消费者安全组织要求对Elon Musk的Grok进行调查，特别是其新推出的‘Imagine’工具。
- ‘Imagine’工具的‘Spicy’模式能够生成不当内容，首次测试便生成了Taylor Swift的裸体深度伪造视频。
- 组织担心该模式可能导致未成年人生成色情图像，并呼吁调查其潜在的法律违规行为。
- 信中提到，‘Spicy’模式目前不允许用户上传真实照片，但仍然可以生成看似真实的裸体视频，可能对被描绘者和未成年人造成伤害。
- 组织指出，未成年人使用‘Spicy’模式生成性图像的唯一障碍是一个询问年龄的弹窗，可能违反儿童在线隐私保护法。
❓
延伸问答
消费者安全组织为何要求对Grok进行调查？
因为Grok的新工具‘Imagine’的‘Spicy’模式能够生成不当内容，包括深度伪造的裸体视频，可能对未成年人造成伤害。
‘Spicy’模式生成的内容有什么风险？
该模式可能导致未成年人生成色情图像，并可能违反儿童在线隐私保护法。
Grok的‘Imagine’工具是如何工作的？
‘Imagine’工具允许用户生成图像和视频，其中‘Spicy’模式鼓励创建不当内容。
消费者安全组织对Grok的具体担忧是什么？
他们担心‘Spicy’模式可能会生成非自愿的深度伪造图像，尤其是如果用户上传真实照片的限制被移除。
‘Spicy’模式如何影响未成年人？
未成年人可以通过简单的年龄确认弹窗访问该模式，可能导致他们生成不当内容。
Grok可能违反了哪些法律？
Grok可能违反了非自愿亲密影像法和儿童在线隐私保护法。
➡️
