马斯克公开怒怼，Google 的 AI 怎么又翻车了？
内容提要
谷歌的AI模型Gemini 1.5因生成历史不准确和种族敏感的图像而受到批评。该模型过于强调多样性，导致对历史人物的不真实描绘并延续了种族刻板印象。此外，该模型的算法似乎优先生成白人而非其他种族的图像。谷歌已经承认了这个问题，并暂时暂停了Gemini的肖像生成功能。这一事件凸显了在AI模型中实现多样性和避免偏见的挑战，以及对更具包容性和平衡的训练数据的需求。
延伸解读
过度纠偏：当多样性干预扭曲历史
谷歌Gemini 1.5因生成历史图像时过度强调多样性，导致维京人、德国夫妇等历史人物被错误描绘，引发争议。这反映出AI在纠正偏见时可能矫枉过正，反而制造新的不真实。技术干预需谨慎，避免为了多样性而牺牲准确性。
偏见根源：训练数据与算法局限
Hugging Face专家分析，谷歌可能通过提示词干预或优先显示多样化图像来调整输出，但模型缺乏时间概念，导致历史图像出错。更深层的问题在于训练数据主要来自欧美互联网，缺乏多样性，且包含有毒标签，使得AI难以准确反映现实。
历史教训：算法种族主义反复出现
2015年谷歌照片将黑人标记为大猩猩，2021年Facebook类似事件，表明科技公司在处理种族问题上屡屡犯错。如今Gemini事件再次凸显，单纯技术修补难以根治，需要从数据源头和算法设计上反思，避免重蹈覆辙。
用户应对：明确提示词与开源选择
用户可通过更具体的提示词（如“斯堪的纳维亚女性、肖像拍摄、演播室照明”）获得更精准结果。同时，Yann LeCun等支持开源，让用户自行控制保护措施。这提示我们，在AI不够聪明时，人类需提升自身使用能力，并推动数据集的改进。
Q&A
Google的Gemini 1.5最近因为什么原因被批评？
Gemini 1.5因生成历史不准确和种族敏感的图像而受到批评，例如将维京人描绘成黑人、德国夫妇由多种族组成等，过度强调多样性导致对历史人物的不真实描绘并延续了种族刻板印象。
Google对Gemini的争议采取了什么措施？
Google承认了一些历史图片存在问题，并暂时暂停了Gemini的肖像生成功能，表示很快会做出调整。
为什么Gemini会生成过度多样化的图像？
Hugging Face首席道德科学家Margaret Mitchell分析，Google可能对AI进行了多种干预，比如在幕后为用户提示词增加“多样化”术语，或优先显示“多样化”的图像。此外，模型没有时间概念，对多样性的校准用到了所有图像，在历史图片方面尤其容易出错。
AI生成图像中的偏见主要来自哪里？
AI生成的图像可能反映了训练数据中的偏见，尤其是缺乏多样性。例如，LAION等数据集主要抓取美国、欧洲等互联网的数据，更少关注印度、中国等人口众多的国家，导致“有魅力的人”更可能是金发碧眼的白人。
历史上科技公司因AI种族问题引发过哪些类似争议？
2015年，Google Photos将非裔美国人标记为大猩猩；2021年，Facebook为AI将黑人贴上“灵长类动物”标签道歉。这些事件都凸显了AI在处理种族问题上的挑战。
用户如何通过提示词提高AI生成图像的准确性？
用户应使提示词更明确，例如与其笼统地说“白人、黑人”，不如写“斯堪的纳维亚女性、肖像拍摄、演播室照明”。要求越明确，结果也越精准；要求越广泛，结果也可能越笼统。
