The Verge
·
消费者安全组织要求对Grok的‘Spicy’模式进行FTC调查
内容提要
消费者安全组织要求对Elon Musk的Grok进行调查，特别是其新推出的“Imagine”工具。该工具的“Spicy”模式能够生成不当内容，首次测试便生成了Taylor Swift的裸体深度伪造视频。组织担心该模式可能导致未成年人生成色情图像，并呼吁调查其潜在的法律违规行为。
关键要点
-
消费者安全组织要求对Elon Musk的Grok进行调查，特别是其新推出的‘Imagine’工具。
-
‘Imagine’工具的‘Spicy’模式能够生成不当内容，首次测试便生成了Taylor Swift的裸体深度伪造视频。
-
组织担心该模式可能导致未成年人生成色情图像，并呼吁调查其潜在的法律违规行为。
-
信中提到，‘Spicy’模式目前不允许用户上传真实照片，但仍然可以生成看似真实的裸体视频，可能对被描绘者和未成年人造成伤害。
-
组织指出，未成年人使用‘Spicy’模式生成性图像的唯一障碍是一个询问年龄的弹窗，可能违反儿童在线隐私保护法。
延伸解读
消费者安全组织的关注
消费者安全组织对Grok的‘Spicy’模式表示强烈关注，认为该工具可能导致未成年人生成不当内容。尽管目前不允许用户上传真实照片，但生成的深度伪造视频仍可能对被描绘者造成伤害，尤其是名人。
法律风险与隐私保护
Grok的‘Spicy’模式可能违反儿童在线隐私保护法，因其仅通过简单的年龄确认弹窗来限制未成年人使用。这种做法可能不足以有效保护青少年，值得监管机构进一步调查。
深度伪造技术的潜在影响
深度伪造技术的快速发展带来了伦理和法律挑战。消费者安全组织警告，如果Grok允许用户上传真实照片，可能会引发大量非自愿的深度伪造内容，进一步加剧对隐私和名誉的侵害。
延伸问答
消费者安全组织为何要求对Grok进行调查？
因为Grok的新工具‘Imagine’的‘Spicy’模式能够生成不当内容，包括深度伪造的裸体视频，可能对未成年人造成伤害。
‘Spicy’模式生成的内容有什么风险？
该模式可能导致未成年人生成色情图像，并可能违反儿童在线隐私保护法。
Grok的‘Imagine’工具是如何工作的？
‘Imagine’工具允许用户生成图像和视频，其中‘Spicy’模式鼓励创建不当内容。
消费者安全组织对Grok的具体担忧是什么？
他们担心‘Spicy’模式可能会生成非自愿的深度伪造图像，尤其是如果用户上传真实照片的限制被移除。
‘Spicy’模式如何影响未成年人？
未成年人可以通过简单的年龄确认弹窗访问该模式，可能导致他们生成不当内容。
Grok可能违反了哪些法律？
Grok可能违反了非自愿亲密影像法和儿童在线隐私保护法。
