手语人工智能研究中的系统偏见：聋人呼吁重新评估研究议程
内容提要
本文探讨了人工智能技术中的语言偏见问题，特别是在自动语音识别（ASR）系统中。研究提出了去偏见技术和策略，强调与当地社区合作以设计更具包容性的语音识别系统，并分析了性别、种族等因素导致的偏见，指出解决这些偏见对提高AI系统公平性的重要性。
延伸解读
偏见源于方法论不公
文章指出，AI技术中的语言偏见并非偶然，而是研究和开发方法论不公正的结果。这意味着，如果开发过程忽视边缘化语言社群的需求和世界观，系统就会无法正确表达这些社区的概念，从而加剧忽视和边缘化。因此，解决偏见需要从研究设计和方法论层面入手，而非仅靠技术修补。
与社区合作是关键路径
文章提出一项新倡议，旨在通过技术设计和方法论，与当地社区进行“眼球级”的合作，以减少语言偏见。这种合作模式强调让社区参与设计更具包容性的语音识别系统，确保技术反映多样化的语言使用习惯，而不是将主流群体的语言模式强加给所有人。
工业实践加剧数据与算法偏见
从语言政策视角分析，当前工业界训练和测试自动语音识别系统的做法会导致数据偏见和算法偏见，进而产生系统误差差异。文章建议将语言资源重新构建为公共基础设施，以缓解这种结构性偏见。这提示我们，商业开发中的资源垄断和标准单一化可能是偏见的重要来源。
临床与手语场景的公平性挑战
文章强调，AI在临床实践中虽有革新潜力，但可能延续社会不公平或表现出种族、性别偏见，因此理解和解决潜在偏见对准确可靠应用至关重要。同时，手语识别与翻译需要计算机视觉、自然语言处理、人机交互、语言学及聋文化等多学科整合，这凸显了在特殊场景中实现公平性的复杂性和紧迫性。
Q&A
人工智能中的语言偏见是如何产生的？
语言偏见是研究和开发方法论不公正的结果，尤其是在自动语音识别系统中。
如何减少自动语音识别系统中的语言偏见？
通过与当地社区合作，采用去偏见技术和策略来设计更具包容性的语音识别系统。
性别和种族偏见对AI系统有什么影响？
性别、种族等因素导致的偏见会影响AI系统的公平性和准确性，可能延续社会不公平。
本文提出了哪些去偏见的技术和策略？
研究提出了多种去偏见技术，强调设计更具通用性和包容性的语音识别技术。
为什么需要将语言资源重新构建为公共基础设施？
重新构建语言资源为公共基础设施可以帮助解决偏见问题，提高AI系统的公平性。
在临床环境中应用AI模型时，偏见问题有多重要？
理解和解决潜在偏见对准确可靠地应用AI模型于临床环境中至关重要。
