谷歌的AI“Reimagine”工具帮助我们在照片中添加了残骸、灾难和尸体

📝

内容提要

谷歌推出了名为“Reimagine”的新工具，可以通过输入文本提示，在照片中生成任何非人物对象或场景的内容。测试中，同事使用Pixel 9和9 Pro的评测机生成了一些令人不安的图像，引发了对辨识工具的担忧。编辑后的图像没有明显的标记，很难辨别出是由AI生成的。

🔎

延伸解读

工具滥用门槛大幅降低

Reimagine将专业级图像篡改能力集成到普通智能手机中，用户只需输入文本提示即可生成车祸、尸体等逼真内容。以往需要Photoshop技能和昂贵软件才能实现的效果，现在通过一部Pixel 9就能轻松完成，这显著降低了恶意使用的技术门槛。

AI生成内容识别困难

使用Reimagine编辑的图像没有水印，仅在元数据中留有标签，而截图即可轻易移除这些信息。谷歌虽对完全由AI生成的图像使用SynthID标记，但Magic Editor编辑的图像不在此列。目前缺乏有效工具来识别此类内容，导致问题图像的传播速度远超识别能力。

平台审核机制存在漏洞

测试中将Reimagine生成的图像上传至Instagram故事，Meta并未自动将其标记为AI生成。这表明社交平台现有的AI内容检测机制尚不完善，难以应对内置于手机中的编辑工具所产生的高度逼真图像，进一步加剧了误导性内容传播的风险。

❓

Q&A

谷歌的Reimagine工具有什么功能？

Reimagine工具可以通过文本提示在照片中生成任何非人物对象或场景的内容。

使用Reimagine工具生成的图像有什么潜在风险？

生成的图像可能包含令人不安的内容，如车祸和尸体，存在滥用风险。

Reimagine工具与Magic Editor有什么关系？

Reimagine是Magic Editor工具的延伸，提供更高级的内容生成能力。

谷歌如何处理Reimagine工具生成的冒犯性内容？

谷歌表示会尊重用户意图，但可能会生成冒犯性内容，并有明确的政策和保护措施。

Reimagine生成的图像如何辨别其真实性？

编辑后的图像没有水印，难以辨别其为AI生成，只有元数据中有标签。

Reimagine工具对照片编辑的影响是什么？

Reimagine使得在照片中添加真实感强的内容变得更加容易，快速传播误导性照片的能力显著提高。

🏷️

标签

Reimagine ai 工具 照片生成 谷歌 辨识工具