内容提要
谷歌地球新增AI图像生成功能,虽带水印和限制,仍易被滥用。记者Henk van Ess已生成难民和加沙弹坑等逼真假图。谷歌称用SynthID水印和Gemini可验证,但水印可绕过,AI检测器也被骗过。该功能用于可视化历史遗址和房地产,但可能传播误导信息。
延伸解读
水印并非万能
谷歌强调SynthID水印和Gemini验证,但记者Henk van Ess已证明水印可被绕过,AI检测器也能被骗过。这意味着仅依赖技术手段难以完全阻止AI生成图像的滥用,用户需保持警惕,不能盲目相信带水印的图像就是真实的。
如何辨别AI生成图像
van Ess建议,除了使用谷歌的@verifyai标签,还可以将可疑图像与其他卫星平台(如Sentinel-2或Landsat)进行对比,并核实轨道数据(如拍摄时间和卫星)。这些方法为普通用户提供了实用的验证途径,但需要一定的技术知识。
功能定位与风险并存
谷歌将Nano Banana功能定位为可视化历史遗址和房地产项目的工具,但该功能也能生成逼真的虚假图像,如难民和加沙弹坑。这表明AI图像生成器在带来便利的同时,也增加了误导信息传播的风险,尤其是在社交媒体上。
Q&A
谷歌地球的AI图像生成器有什么潜在风险?
该工具能生成逼真的卫星和3D图像,可能被用于制造误导信息,例如生成难民或加沙弹坑等假图,尽管有水印和限制,仍易被滥用。
谷歌如何应对AI生成图像的滥用问题?
谷歌表示每张用Nano Banana在谷歌地球生成的图像都包含SynthID数字水印,用户可通过Gemini应用或Search中的Lens来验证图像是否由AI生成。
记者Henk van Ess是如何利用谷歌地球的AI功能的?
他生成了“墨西哥边境附近的难民”和“加沙医院附近的弹坑”等逼真假图,以展示该功能可能被滥用。
除了使用谷歌的验证工具,还有什么方法可以识别AI生成的谷歌地球图像?
Henk van Ess建议将可疑图像与其他卫星平台(如Sentinel-2或Landsat)进行比较,并验证轨道数据,如拍摄时间和卫星信息。
谷歌地球的AI图像生成器官方宣传的用途是什么?
谷歌的博客文章将其宣传为可视化历史遗址和房地产项目的工具。
谷歌地球的AI图像生成器是否容易绕过水印?
虽然水印难以移除,但并非不可能错过或绕过,Digital Digging已经用AI修改的视频骗过了Hive的AI检测器。