The Verge
·
谷歌的Nano Banana Pro生成出色的阴谋论素材
💡
原文英文，约600词，阅读约需2分钟。
📝
内容提要
谷歌的Gemini应用程序在生成敏感图像方面存在漏洞，用户可以轻易请求与历史事件和虚构角色相关的图像，如“飞机撞双子塔”或“白宫着火”。尽管有政策限制，但执行不严，可能导致误导公众和侵犯版权。
🎯
关键要点
- 谷歌的Gemini应用程序在生成敏感图像方面存在漏洞，用户可以轻易请求与历史事件和虚构角色相关的图像。
- 尽管有政策限制，但执行不严，导致用户能够生成不当内容，如“飞机撞双子塔”和“白宫着火”的图像。
- Gemini应用程序通常会进行严格过滤，但在实际使用中存在许多漏洞，用户可以轻松绕过这些限制。
- 用户无需提及特定事件，Gemini能够理解历史背景并生成相关图像，显示出模型的文本渲染能力易被滥用。
- 生成的图像虽然不显示血腥或暴力，但忽视了版权保护，扭曲了历史事实，容易被滥用。
- 与微软的Bing工具相比，Gemini的漏洞更为明显，用户无需进行复杂的思考即可生成敏感内容。
❓
延伸问答
谷歌的Gemini应用程序存在哪些漏洞？
Gemini应用程序在生成敏感图像方面存在漏洞，用户可以轻易请求与历史事件和虚构角色相关的图像，且执行政策不严。
用户如何绕过Gemini的内容过滤？
用户无需提及特定事件，Gemini能够理解历史背景并生成相关图像，显示出模型的文本渲染能力易被滥用。
生成的图像对公众有什么潜在影响？
生成的图像可能扭曲历史事实，容易被滥用，导致误导公众和侵犯版权。
Nano Banana Pro与微软的Bing工具相比有什么不同？
与微软的Bing工具相比，Gemini的漏洞更为明显，用户可以更轻松地生成敏感内容。
谷歌对Gemini应用程序的政策是什么？
谷歌的政策目标是最大限度地帮助用户，同时避免输出可能造成现实世界伤害或冒犯的内容。
生成的敏感图像是否包含暴力或血腥内容？
生成的图像虽然不显示血腥或暴力，但忽视了版权保护，可能导致误导。
➡️
