谷歌地球的AI深度伪造工具仅上线一天
原文英文，约700词，阅读约需3分钟。
📝
内容提要
谷歌地球推出AI图像编辑功能，用户可通过文字提示修改卫星图像，但该功能可生成深度伪造内容，如添加难民或爆炸坑，因违反政策上线一天即被撤回。谷歌表示将加强防护，但测试者称生成图像可绕过AI检测工具且未受限制。
🔎
延伸解读
信任与风险
谷歌地球因用户信任其提供可靠的世界视图，而紧急撤回AI编辑功能。这反映出地理信息平台在引入生成式AI时面临的核心矛盾：增强编辑能力可能损害平台作为事实来源的可信度。谷歌强调生成图像未在主体验中展示且含水印，但测试者仍能绕过检测，说明技术防护与用户信任之间存在差距。
防护措施的局限
尽管谷歌声称阻止有害内容生成，但测试者发现提示未被拒绝或软化，且生成的视频能骗过AI检测工具。这表明当前基于提示过滤和水印的防护措施存在漏洞，尤其在视频等动态内容中更易被规避。谷歌计划加强防护，但如何有效平衡功能开放与滥用风险仍是挑战。
❓
Q&A
谷歌地球的AI深度伪造工具是什么？
谷歌地球推出的一项功能，允许用户通过文字提示编辑卫星图像，但该功能可生成深度伪造内容，如添加难民或爆炸坑，因违反政策上线一天即被撤回。
谷歌地球的AI编辑功能为什么被关闭？
因为该功能允许用户通过文字提示生成深度伪造图像，如添加难民或爆炸坑，违反了谷歌的政策，因此谷歌在推出一天后将其撤回。
谷歌地球AI工具被滥用的具体例子有哪些？
Digital Digging的Henk van Ess故意生成图像，在墨西哥边境添加难民，在加沙医院附近添加爆炸坑。
谷歌对AI生成图像采取了哪些防护措施？
谷歌表示生成的图像带有数字水印，并阻止“有害主题”的图像创建。但测试者发现这些措施可以被绕过。
测试者如何证明谷歌的AI检测工具可以被绕过？
Henk van Ess使用谷歌地球生成的视频成功骗过了Hive的AI检测工具，表明生成的内容即使有水印也能传播。
谷歌地球AI工具被撤回后，谷歌计划怎么做？
谷歌表示将加强防护措施，并在此期间撤回该功能，以确保用户对谷歌地球的信任。
🏷️
