/cdn.vox-cdn.com/uploads/chorus_asset/file/25582867/ai_label__2_.png)
The Verge
·
谷歌的AI“Reimagine”工具帮助我们在照片中添加了残骸、灾难和尸体
💡
原文英文，约900词，阅读约需4分钟。
📝
内容提要
谷歌推出了名为“Reimagine”的新工具，可以通过输入文本提示，在照片中生成任何非人物对象或场景的内容。测试中，同事使用Pixel 9和9 Pro的评测机生成了一些令人不安的图像，引发了对辨识工具的担忧。编辑后的图像没有明显的标记，很难辨别出是由AI生成的。
🎯
关键要点
- 谷歌推出了名为'Reimagine'的新工具，可以通过文本提示在照片中生成非人物对象或场景。
- Reimagine是去年Magic Editor工具的延伸，允许用户选择场景中的部分并生成内容。
- 测试中生成了一些令人不安的图像，包括车祸、血腥尸体等，显示出工具的潜在滥用风险。
- 谷歌表示，Generative AI工具旨在尊重用户意图，但可能会生成冒犯性内容。
- 缺乏有效的工具来识别这些生成的内容，导致问题图像的生成速度超过识别能力。
- 使用Reimagine编辑的图像没有水印，难以辨别其为AI生成，只有元数据中有标签。
- 照片篡改并不新鲜，但现在添加真实感强的内容变得更加容易。
- 在同一设备上捕捉和发布照片的同时，快速传播误导性照片的能力显著提高。
➡️
