The Verge ·

谷歌CEO称Gemini AI的多样性错误“完全不可接受”

💡 原文英文，约700词，阅读约需3分钟。

📝

内容提要

谷歌CEO皮查伊就Gemini生成种族多元但失实的纳粹士兵、美国国父等图像道歉，称其冒犯用户、显示偏见，完全不可接受。他表示团队正全力修复，已见改善，并将调整产品准则、改进发布流程、加强评估与红队测试，强调提供准确无偏见信息是谷歌使命。

🔎

谷歌Gemini AI因生成种族多元但失实的图像（如纳粹士兵、美国国父）引发争议，导致谷歌暂停其图像生成功能。CEO皮查伊在内部备忘录中承认这些错误冒犯了用户并显示出偏见，称其“完全不可接受”。这一事件凸显了AI在追求多样性时可能牺牲准确性的风险，也反映了公众对AI生成内容的高度敏感。

皮查伊表示团队正全力修复问题，并已看到显著改善。谷歌将采取一系列行动，包括结构性调整、更新产品准则、改进发布流程、加强评估与红队测试等。这些措施旨在确保AI产品提供准确无偏见的信息，并防止类似问题再次发生。

此事件表明，AI开发中平衡多样性与准确性是一大挑战。皮查伊强调“没有AI是完美的”，但谷歌对自身要求很高。这提醒行业，在AI产品发布前需进行更严格的测试和评估，尤其是涉及历史、文化等敏感话题时，必须确保输出内容的真实性和客观性。

❓

谷歌CEO桑达尔·皮查伊在内部备忘录中表示，Gemini生成的问题文本和图像冒犯了用户并显示出偏见，这“完全不可接受”，并承认“我们搞错了”。

Gemini生成了种族多元但失实的纳粹时代德国士兵、非白人的美国国父，甚至错误地描绘了谷歌联合创始人的种族。

谷歌暂停了Gemini的图像生成功能，团队全天候工作以解决问题，并计划进行结构性调整、更新产品准则、改进发布流程、加强评估和红队测试，以及提供技术建议。

谷歌暂停了Gemini的图像生成功能，并表示正在努力在未来几周内重新启用，但截至备忘录发布时，问题尚未完全修复。

皮查伊称“组织世界信息并使其普遍可访问和有用”的使命是神圣的，这一方法必须适用于所有产品，包括新兴的AI产品，以提供有帮助、准确和无偏见的信息。

皮查伊提到了一些基础性进展，例如100万长上下文窗口的突破和开放模型，这些进展受到了好评。

🏷️