The Verge ·

自动化的能力歧视

💡 原文英文，约900词，阅读约需4分钟。

📝

内容提要

美国人口普查提出对残疾分类的改变，可能导致低估残疾人数量。数据进步高级研究员创建了GPT-4机器人助手，帮助人们撰写评论。残疾包括身体、智力和认知障碍以及慢性疾病。

🔎

延伸解读

AI辅助政治参与的双面性

文章提到，美国人口普查拟修改残疾分类，可能低估残疾人数量。公众评论是参与规则制定的途径，但残疾人面临更多障碍。Data for Progress的高级研究员Matthew Cortland创建GPT-4机器人助手，帮助残疾人撰写和提交评论，有用户反馈称这让他们能够表达一直想说的话。这展示了AI在降低政治参与门槛方面的潜力，尤其对认知或身体有障碍的人。然而，这种积极应用依赖于有意识的开发和使用，并非AI的默认方向。

算法偏见与残疾歧视的根源

文章指出，AI常反映社会对残疾的负面看法，将残疾视为缺陷而非文化身份。弗吉尼亚大学助理教授Joshua Earle称AI的使用“本质上是数学颅相学”。这种态度在新冠疫情期间的护理配给辩论中凸显，也体现在质量调整生命年（QALYs）等成本效益工具中，这些工具用外部指标衡量生命价值，可能导致对残疾人的医疗干预被拒绝。算法偏见并非技术中立，而是社会偏见的自动化。

自动化决策对残疾人的现实风险

文章引用ProPublica调查，保险巨头Cigna使用内部算法自动标记理赔，导致大量拒绝，尤其针对有复杂医疗需求的残疾人。类似风险也出现在就业领域：筛选工具、逻辑谜题、眼神和表情追踪可能引入偏见。弗吉尼亚理工副教授Ashley Shew指出，这些技术“加剧了对残疾人的额外监视”。这些工具往往基于两个假设：许多人在伪造残疾，以及残疾生活不值得过。这种态度影响资源分配和社会包容。

AI作为无障碍工具的积极可能

文章强调，AI在正确使用下可以成为有价值的无障碍工具。除了Cortland的GPT-4助手，Midjourney在2023年初推出生成替代文本的功能，方便盲人和低视力者。学者Amy Gaeta看到AI可以自动化繁琐任务，如填写表格、练习面试对话，甚至帮助与保险公司抗争不合理的拒赔。这些例子表明，AI可以减轻残疾人的负担，但前提是开发者和使用者有意愿将其导向包容而非歧视。

❓

Q&A

美国人口普查局提出的残疾分类变化会带来什么影响？

如果实施，这些变化将大幅减少被归类为残疾的美国人数量，而专家表示残疾人原本已被低估。

GPT-4机器人助手如何帮助残疾人参与政治评论？

Data for Progress的高级研究员Matthew Cortland创建了一个GPT-4机器人助手，帮助残疾人撰写和提交关于联邦机构规则的评论，以克服他们面临的障碍。

AI在残疾社区中有哪些积极应用？

AI可以自动化繁琐任务，帮助残疾人减轻负担，例如填写表格、提供面试练习，以及生成图像替代文本以提高盲人和低视力者的可访问性。

AI如何对残疾人产生负面影响？

AI常反映对残疾的负面看法，视其为缺陷而非文化身份。例如，保险公司使用算法自动拒绝复杂医疗需求的索赔，就业筛选工具和面试技术可能引入偏见，QALYs等成本效益工具可能低估残疾人的生命价值。

什么是QALYs，它如何影响残疾人？

QALYs（质量调整生命年）是一种AI辅助的“成本效益”工具，用于医疗保健中通过外部指标确定“生活质量”，而非个人生命的内在价值。低分可能导致拒绝医疗干预，从而对残疾人产生不利影响。

社会对残疾人的态度如何影响AI工具的设计？

社会常将残疾视为缺陷而非文化身份，这种态度反映在AI工具中，导致资源分配和社会包容决策不将残疾人视为与非残疾人平等，从而在技术产品中重复错误。

🏷️