自然语言处理的 “殖民冲动”：孟加拉情感分析工具及其基于身份的偏见审计

在这篇论文中，我们探讨了社会技术系统（情感分析工具）中潜在的偏见，并对具有殖民主义影响的孟加拉社群中的性别、宗教和国籍等身份类别进行了分析。通过对所有孟加拉情感分析工具进行算法审计，我们发现这些工具不仅在输出上存在不一致性，而且在不同身份表达方式下存在偏见。我们将研究结果与孟加拉社群的殖民主义社会文化结构联系起来，并探讨了情感分析工具下游偏见的影响。