谷歌解释Gemini生成‘多元化纳粹’的‘尴尬’AI图片

📝

内容提要

谷歌就Gemini生成错误历史图片致歉，称调整模型多样性时未考虑不应呈现多样性的场景，且模型过度谨慎，拒绝部分正常提示。谷歌已暂停Gemini生成人物图像功能，将继续测试改进后再重新开放。

🔎

延伸解读

多样性调优的双刃剑

谷歌为提升AI包容性而进行的多样性调优，在历史人物等不应呈现多样性的场景中导致了错误输出。这揭示了AI公平性调整的复杂性：过度追求代表性可能扭曲事实，而过度谨慎又会拒绝合理请求。如何在多样性与准确性之间取得平衡，是AI开发中的关键挑战。

过度谨慎的副作用

除了生成错误图像，Gemini还因过度谨慎而拒绝了一些正常提示，如生成特定种族人物的请求。这种保守行为可能源于对敏感内容的过度过滤，导致用户体验下降。谷歌承认模型“过度补偿”和“过度保守”，说明AI安全机制需要精细校准，避免误伤合理需求。

暂停功能与未来改进

谷歌已暂停Gemini生成人物图像的功能，并承诺在改进后重新开放。这反映了AI产品在面临伦理和准确性争议时的应急策略。暂停功能虽能防止错误扩散，但也影响用户体验。谷歌需在测试中解决调优问题，确保未来能准确响应用户对特定人物或文化背景的请求。

❓

Q&A

谷歌Gemini为什么生成了‘多元化纳粹’的图片？

谷歌解释称，这是因为调整模型以确保展示多样化人群时，没有考虑到某些场景本不应呈现多样性，导致模型在部分情况下‘过度补偿’，生成了不准确的历史图片。

谷歌对Gemini生成错误图片一事做了什么回应？

谷歌发布博客文章致歉，称这些图片‘令人尴尬且错误’，并暂停了Gemini生成人物图像的功能，表示将继续测试改进后再重新开放。

Gemini除了生成多样化纳粹图片，还有哪些问题？

Gemini还变得‘过度保守’，拒绝回答某些提示，甚至将一些非常普通的提示错误地解读为敏感内容，例如拒绝生成‘黑人’或‘白人’的特定图像。

谷歌暂停Gemini生成人物图像功能的具体时间是什么？

谷歌于2月22日停止了用户使用Gemini AI工具创建人物图像的功能，这距离Gemini（原Bard）推出图像生成功能仅几周时间。

谷歌未来会如何改进Gemini的图像生成？

谷歌表示将继续测试Gemini的图像生成能力，并‘努力大幅改进’，之后再重新开放该功能。同时谷歌承认幻觉是所有大语言模型的已知挑战，会持续改进。

谷歌希望Gemini在生成人物图像时达到什么效果？

谷歌希望Gemini能‘为所有人良好工作’，当用户要求生成‘足球运动员’或‘遛狗的人’等图像时，能展示不同种族等多样化人群；但当用户指定特定类型的人（如‘教室里的黑人教师’）或特定文化历史背景时，应准确反映用户要求。

🏷️

标签

Gemini ai 致歉 谷歌 错误历史图片