内容提要
苹果更新App Store规则,明确禁止“脱衣”类AI应用生成未经同意的私密图像。开发者须主动预防并删除此类内容,否则可能被下架。新规还禁止审核后添加“脱衣”功能的“诱饵”应用,并明确将涉及人口贩运或剥削儿童的应用下架。
延伸解读
新规的监管重点与执行机制
苹果此次更新明确将“脱衣”类AI应用列为打击对象,要求开发者主动预防并删除未经同意的私密图像。若开发者未能实施足够保障措施,或在收到通知后未整改,应用可能被下架。这标志着苹果从被动响应投诉转向要求开发者承担事前审核与持续监控责任,执行力度较以往更为严格。
对“诱饵”应用的封堵
新规特别澄清了禁止“诱饵”应用,即那些在审核通过后才添加或更改功能(包括“脱衣”功能)的应用。此举旨在防止开发者利用审核漏洞,先以合规面貌上架,再通过更新引入违规内容。这要求开发者在版本更新时也需确保功能合规,否则可能面临下架风险。
与人口贩运和儿童剥削的关联
苹果规则还更清晰地指出,任何“促进人口贩运或剥削儿童”的应用将被下架,并“禁止通过替代分发渠道”。这扩大了打击范围,将“脱衣”类AI应用与更严重的犯罪行为关联,表明苹果试图从平台层面切断此类内容的传播链条,而不仅限于处理单个违规应用。
背景与行业影响
此次规则更新源于苹果因X平台上的Grok被用于生成非自愿性深度伪造(包括涉及未成年人)而受到的批评。尽管苹果未下架X或Grok,但曾威胁撤下Grok,且旧金山市检察官曾要求苹果移除13款“脱衣”应用。新规可视为苹果对监管压力和公众抗议的回应,可能促使其他应用商店跟进类似政策。
Q&A
苹果App Store新规主要针对什么类型的AI应用?
苹果更新后的App Store规则明确禁止所谓的“脱衣”(nudify)类AI应用,这类应用利用AI工具生成未经当事人同意的私密图像。
苹果对开发者提出了哪些具体的内容审核要求?
苹果要求开发者必须主动预防并删除未经同意的性图像,这是其App Store应用内容审核要求的一部分。未能实施充分保障措施或收到通知后不整改的开发者,可能会被从App Store下架。
什么是“诱饵”应用?苹果新规如何限制它们?
“诱饵”应用指在通过审核后添加或更改功能(包括“脱衣”功能)的应用。苹果新规明确禁止这类“诱饵”应用,以阻止其绕过审核。
苹果新规对涉及人口贩运或剥削儿童的应用有何规定?
苹果新规更明确地规定,任何“助长人口贩运或剥削儿童”的应用将被从App Store下架,并“禁止通过替代分发渠道分发”。
苹果此次更新App Store规则的背景是什么?
此前苹果因X用户利用Grok生成未经同意的性化深度伪造内容(包括涉及未成年人)而受到严厉批评。苹果未下架X或Grok,但告知参议员曾威胁下架Grok。此外,WWDC抗议者呼吁苹果移除相关技术,旧金山市检察官也要求苹果下架13款“脱衣”应用。
苹果新规对“未经同意的私密图像”的立场是什么?
苹果新规更明确地禁止生成“未经同意的私密图像”,并将此类内容列为必须主动预防和删除的对象。