仅仅因为我们扎营，并不意味着我们应该这样做：模拟酷儿声音的伦理学
内容提要
本文分析社交媒体内容审查对性别多元化言语的偏见，探讨大型语言模型中的反酷儿和跨性别者偏见，并提出通过微调模型以减少偏差的方法。同时，研究指出生成音频模型的伦理问题及其对边缘群体的影响，强调改进数据集和模型训练的重要性。
延伸解读
偏见缓解的可行路径
文章指出，大型语言模型对性少数群体存在偏见，但通过微调可以缓解。例如，在WinoQueer基准上，BERT表现出反同性恋偏见，而使用LGBTQ+成员编写的语料微调后，偏见大部分减少。这提示改进数据集和模型训练是减少偏见的关键，但需注意微调数据应来自社区本身，以确保代表性。
毒性去除的意外后果
研究发现，现有的毒性去除技术会降低模型在边缘群体语言中的效用，因为这些技术削弱了模型抗分布转移的能力，导致各种失败。这意味着单纯追求去毒可能损害模型对边缘群体语言的理解，反而加剧不平等。因此，需要更精细的方法，平衡去毒与保持语言多样性。
音频生成伦理：超越真伪二元
针对声音伪造，文章主张从传统的“真实”或“伪造”二元范式转向定位“声音编辑”，包括修改、过滤、剪辑以及文本到语音合成和语音变换。仅将声音分类为真实或伪造是危险的过度简化，可能阻碍语音技术发展。这要求开发更细致的检测系统和伦理框架。
多模态模型中的身份误刻画
多模态模型在处理不同性别认同时，可能将非传统性别个体误刻画为不够人性化、更具刻板印象和性化。受访者关注描绘的准确性，呼吁采用策展训练数据和定制化，实现社区更广泛的参与。这表明模型开发需纳入边缘群体视角，以避免心理伤害和认知能力下降。
Q&A
社交媒体内容审查如何影响性别多元化言语？
社交媒体内容审查对性别多元化言语模式存在偏见，影响了对性少数群体的表达和理解。
大型语言模型中存在哪些偏见？
大型语言模型生成的文本显示出对酷儿和跨性别者的偏见，尤其是在描绘性少数群体时。
如何减少大型语言模型中的性少数群体偏见？
通过微调模型，使用酷儿社区撰写的数据，可以有效减少大型语言模型中的性少数群体偏见。
生成音频模型存在哪些伦理问题？
生成音频模型的伦理问题包括欺诈、深度伪造和版权侵犯等，需要引起重视。
现有的毒性去除技术对边缘群体语言的影响是什么？
现有的毒性去除技术降低了模型在边缘群体语言中的效用，削弱了模型的抗分布转移能力。
边缘群体身份的描绘存在哪些问题？
模型在描绘边缘群体身份时存在错误和刻板印象，可能导致心理伤害和认知能力下降。
