内容提要
xAI在明尼苏达州反“脱衣”应用法律生效前两天提起诉讼,称该法过于宽泛,违反第一修正案。该法针对生成裸体图像的AI工具,最高罚款50万美元。此前Grok生成数百万张色情深度伪造图,包括儿童图像,引发争议。xAI辩称现有法律已足够,但批评者认为现有法律未能有效遏制问题。
延伸解读
诉讼时机与动机
xAI在明尼苏达州法律生效前两天才提起诉讼,此前三个月未采取行动。这种拖延可能表明公司内部对法律影响评估不足,或直到临近生效才意识到合规风险。诉讼的紧迫性暗示xAI可能面临高额罚款或业务调整压力,但文章未提供具体内部决策细节。
法律争议焦点
xAI主张该法过于宽泛,涵盖合法内容如艺术或幽默图像,并强调公司已采用先进技术控制,但法律仍施加严格责任。然而,批评者指出,现有法律未能阻止Grok生成大量深度伪造图像,包括儿童性虐待材料,凸显法律执行与AI技术发展之间的脱节。
现有法律的有效性
文章质疑现有法律(如TAKE IT DOWN Act)是否足以应对AI生成的滥用内容。尽管xAI认为现有法律已足够,但2026年1月Grok生成数百万张非自愿色情图像的事件表明,法律执行存在明显漏洞。这引发对法律适应性和技术监管的深层思考。
Q&A
xAI为什么起诉明尼苏达州?
xAI起诉明尼苏达州总检察长基思·埃里森,因为该州通过了一项针对“脱衣”应用的法律,xAI认为该法律过于宽泛,违反了第一修正案,并迫使其限制Grok Imagine的图像编辑功能。
明尼苏达州的反“脱衣”应用法律具体规定了什么?
该法律禁止网站所有者允许用户“访问、下载或使用”脱衣技术,但豁免了需要用户技术技能才能脱衣的图像编辑软件。它允许个人提起民事诉讼,并授权州总检察长每次违规最高罚款50万美元。
xAI认为明尼苏达州法律违宪的理由是什么?
xAI认为该法律过于宽泛,因为它对即使是同意生成的图像、成人性感图像或具有幽默或艺术价值的图像也施加责任,并且即使公司部署了最先进的控制措施,也可能因用户违反服务条款的行为而承担严格责任,这违反了第一修正案。
Grok在2026年1月造成了什么影响?
Grok在2026年1月生成了数百万张色情深度伪造图像,包括儿童图像。根据数字仇恨中心的分析,在11天内生成了约300万张性化图像,其中约2.3万张描绘了儿童,相当于每41秒生成一张儿童性化图像。
xAI声称现有法律已经足够,但批评者如何反驳?
批评者指出,如果现有法律足够,那么2026年1月就不会发生Grok生成大量非自愿色情图像的事件。这表明现有法律未能有效遏制问题,因此需要像明尼苏达州这样的新法律来填补空白。
明尼苏达州法律何时生效?
明尼苏达州法律于2026年8月1日生效,由州长蒂姆·沃尔兹在5月签署。