/cdn.vox-cdn.com/uploads/chorus_asset/file/25582867/ai_label__2_.png)
The Verge
·
谷歌的AI“Reimagine”工具帮助我们在照片中添加了残骸、灾难和尸体
💡
原文英文，约900词，阅读约需4分钟。
📝
内容提要
谷歌推出了名为“Reimagine”的新工具，可以通过输入文本提示，在照片中生成任何非人物对象或场景的内容。测试中，同事使用Pixel 9和9 Pro的评测机生成了一些令人不安的图像，引发了对辨识工具的担忧。编辑后的图像没有明显的标记，很难辨别出是由AI生成的。
🎯
关键要点
- 谷歌推出了名为'Reimagine'的新工具，可以通过文本提示在照片中生成非人物对象或场景。
- Reimagine是去年Magic Editor工具的延伸，允许用户选择场景中的部分并生成内容。
- 测试中生成了一些令人不安的图像，包括车祸、血腥尸体等，显示出工具的潜在滥用风险。
- 谷歌表示，Generative AI工具旨在尊重用户意图，但可能会生成冒犯性内容。
- 缺乏有效的工具来识别这些生成的内容，导致问题图像的生成速度超过识别能力。
- 使用Reimagine编辑的图像没有水印，难以辨别其为AI生成，只有元数据中有标签。
- 照片篡改并不新鲜，但现在添加真实感强的内容变得更加容易。
- 在同一设备上捕捉和发布照片的同时，快速传播误导性照片的能力显著提高。
❓
延伸问答
谷歌的Reimagine工具有什么功能？
Reimagine工具可以通过文本提示在照片中生成任何非人物对象或场景的内容。
使用Reimagine工具生成的图像有什么潜在风险？
生成的图像可能包含令人不安的内容，如车祸和尸体，存在滥用风险。
Reimagine工具与Magic Editor有什么关系？
Reimagine是Magic Editor工具的延伸，提供更高级的内容生成能力。
谷歌如何处理Reimagine工具生成的冒犯性内容？
谷歌表示会尊重用户意图，但可能会生成冒犯性内容，并有明确的政策和保护措施。
Reimagine生成的图像如何辨别其真实性？
编辑后的图像没有水印，难以辨别其为AI生成，只有元数据中有标签。
Reimagine工具对照片编辑的影响是什么？
Reimagine使得在照片中添加真实感强的内容变得更加容易，快速传播误导性照片的能力显著提高。
➡️
