MIT News - Computer Science and Artificial Intelligence Laboratory (CSAIL)
·
研究显示AI聊天机器人能够识别种族，但种族偏见降低了回应的同情心
💡
原文英文，约900词，阅读约需4分钟。
📝
内容提要
随着匿名性和陌生人陪伴的增加，越来越多人在数字世界寻求心理健康支持。研究表明，GPT-4生成的回应在同情心和鼓励积极行为方面优于人类，但对不同种族的回应存在偏见。研究者建议通过明确指示来减轻这种偏见，以确保临床环境中的心理健康支持公平性。
🎯
关键要点
- 随着匿名性和陌生人陪伴的增加，越来越多人在数字世界寻求心理健康支持。
- 美国有超过1.5亿人生活在心理健康专业人员短缺地区。
- 研究者使用了12513个帖子和70429个回应的数据集来评估心理健康支持聊天机器人的公平性和质量。
- 心理学家评估了50个随机抽取的寻求心理健康支持的Reddit帖子，比较了人类回应和GPT-4生成的回应。
- GPT-4的回应在同情心和鼓励积极行为方面优于人类回应，效果提高了48%。
- 研究发现，GPT-4对黑人和亚裔用户的同情心水平较低，存在种族偏见。
- 研究者通过明确指示来减轻偏见，以确保心理健康支持的公平性。
- 研究表明，提供人口统计属性的指示可以有效缓解偏见。
- LLMs在临床环境中的应用需要更全面和深思熟虑的评估，以确保不同人口子群体获得公平的心理健康支持。
➡️
