内容提要
Meta首席AI官Alexandr Wang在Instagram发布AI视频推广其AI代理Muse,视频中将OpenAI CEO Sam Altman合成成吉祥物形象。该视频按Meta政策标注为AI生成,但Meta仅要求人物视频标注,静态图片无此要求,此前女演员Mia Goth的AI假图未标注便广泛传播。Meta称Altman本人已允许其形象用于AI生成。事件凸显AI深度伪造在社交平台日益普遍,监管与平台责任引发争议。
延伸解读
平台规则的不对称:视频需标注,图片无要求
Meta要求AI生成的真人视频必须标注,王发布的视频也遵守了该规则。但静态图片没有标注要求,导致女演员Mia Goth的AI假图未标注便广泛传播。这种差异意味着,同样涉及真人肖像的AI内容,仅因形式不同而面临不同的披露义务,静态图片更容易绕过标注机制,增加误导风险。
高管亲自下场:竞争宣传与平台政策的边界
Meta首席AI官Alexandr Wang用AI视频将竞争对手OpenAI的CEO合成成吉祥物形象,以推广自家AI代理Muse。尽管视频已标注为AI生成,但高管在自家平台上发布针对竞争者的深度伪造内容,仍引发对平台中立性和内容治理一致性的关注。Meta回应称Altman本人已允许其形象用于AI生成,这为事件提供了合规解释,但并未消除外界对平台双重标准的质疑。
从强烈谴责到日常化:AI伪造内容的接受度变迁
文章指出,几年前AI内容模仿真人会引发强烈公开谴责甚至法律威胁,如今却逐渐成为社交媒体常态,政治团体甚至投入数百万美元投放AI生成广告。这种转变意味着公众和平台对深度伪造的敏感度可能下降,监管与平台责任争议随之加剧。读者需注意,标注制度虽存在,但执行范围和力度仍不均衡。
Q&A
Meta首席AI官Alexandr Wang在Instagram上发布了什么内容?
他发布了一段AI生成的短视频,用于推广Meta的消费者AI代理Muse。视频中,Wang、Meta CEO扎克伯格、OpenAI CEO Sam Altman和Muse的吉祥物Jolly进行四人视频通话,Altman被合成成穿着Jolly毛绒连帽服、画着面部彩绘的形象。
Meta对AI生成视频和静态图片的标注要求有什么不同?
Meta要求描绘人物的AI生成视频必须标注为AI内容,Wang的帖子也做了标注;但静态图片没有此类要求,因此女演员Mia Goth的AI假图在未标注的情况下广泛传播。
Meta如何回应Altman被深度伪造一事?
Meta发言人Tracy Clayton指出,Wang的帖子已标注为AI内容,并提到Altman本人已允许其形象用于AI生成,例如OpenAI推出Sora应用后曾涌现大量伪造的Altman视频。OpenAI未回应置评请求。
Mia Goth的AI假图事件暴露了Instagram的什么问题?
该AI假图在未标注的情况下广泛传播,且由带有Instagram蓝色认证徽章的粉丝账号分享。Goth的代表称Instagram允许图片传播而忽视“保护公众人物肖像的完整性和完整性”是“不可理解的”,凸显平台对静态AI图片缺乏标注要求和监管漏洞。
为什么说AI深度伪造在社交平台上越来越普遍?
文章指出,几年前AI模仿真人还会引发强烈谴责甚至法律威胁,如今AI内容已成为社交媒体新现实的一部分。例如中期选举前政治团体投放了数百万美元的AI生成广告攻击对手,名人如Scarlett Johansson也常成为性化AI图像的对象。
Wang推广Muse的方式有什么特别之处?
Wang采取了被一些人称为“反公关”的方式推广Muse,发了数百条推文,并将传统营销人员称为“corposlops”。作为Meta高管发布竞争对手的AI视频尤其引人注目,尤其是在该平台近期因AI生成内容受到批评的背景下。