小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究使用FAIRE基准测试大型语言模型在AI招聘中对简历的种族和性别偏见,结果显示所有模型均存在偏见,强调了减少偏见的紧迫性。

FAIRE: Assessing Racial and Gender Bias in AI-Driven Resume Evaluation

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-02T00:00:00Z

本研究探讨了大型语言模型中的种族偏见及其剪枝策略的有效性,结果表明剪枝能够有效减少偏见,但在不同上下文中的泛化能力有限。此外,研究对AI法律框架提出了重要建议。

Breaking Down Bias: The Limitations of Generalizable Pruning Strategies

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-11T00:00:00Z

本研究针对统一多模态大型语言模型在图像生成中的性别和种族偏见,提出了“定位-修复”策略来审计偏见,发现偏见主要源于语言模型,并引入平衡偏好模型以减少偏见。强调了对U-MLLMs的全面解读和去偏见策略的重要性。

统一多模态大型语言模型在图像生成中的公平性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-05T00:00:00Z

本研究探讨生成模型在软件工程中的性别和种族偏见。评估结果显示,稳定扩散模型在描绘软件工程师时偏向男性,严重低估黑人和阿拉伯人物。这揭示了使用这些模型的潜在偏见风险,并呼吁未来进行偏见减缓研究。

How Do Generative Models Portray Software Engineers? A Case Study on Bias in Stable Diffusion

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-15T00:00:00Z
法官利用算法为他们本已倾向的决定辩护

西北大学的研究表明,法官在保释决定中并未完全依赖算法,而是根据个人因素选择性使用。虽然算法旨在评估被告风险,但可能加剧种族偏见。法官通常在短时间内做出决定,更多依赖自身声誉和道德判断,而非算法的可靠性。这表明算法未必能减少人为偏见,反而可能合法化这些偏见。

法官利用算法为他们本已倾向的决定辩护

The Verge
The Verge · 2024-10-30T14:00:00Z

本研究探讨了知识蒸馏在视觉识别中的应用,提出了多教师蒸馏和动态先验知识等方法,以提升学生模型的性能。研究结果表明,这些方法在多个数据集上表现显著,尤其在面部识别中,通过多元教师框架有效减少了种族偏见。

基于不同图像数据集训练的联合教师多级特征蒸馏

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-29T00:00:00Z

本研究分析了大型语言模型中的人口统计偏见,发现其在职业和犯罪场景中存在性别、种族和年龄偏见,指出当前偏见缓解技术的局限性,并呼吁寻找更有效的方法,提出标准化评估指标以确保人工智能系统的公平性和责任。

揭示人工智能中的隐含偏见:大型语言模型的启示

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-22T00:00:00Z

本研究分析了大型语言模型(LLMs)在旅行规划中对性别和种族的偏见,发现其在不同群体的处理上存在明显差异,强调了评估推荐准确性的重要性。

Are Large Language Models Suitable for Travel Planning?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-22T00:00:00Z

本文探讨了大型语言模型(如ChatGPT)中的固有偏见,分析了性别和种族偏见的存在及其评估框架GPTBIAS的有效性。研究表明,性别偏见有所减少,但种族偏见依然存在。强调跨学科合作的重要性,以开发更公正和透明的人工智能系统,并提出改进偏见检测和缓解技术的必要性。

嘿,GPT,你能更种族主义吗?对众包尝试从生成性人工智能中引出偏见内容的分析

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-20T00:00:00Z

本文探讨了人工智能模型中的种族和性别偏见,强调这些偏见对用户体验和决策的负面影响。研究显示,AI系统的可解释性影响人们的反应,且学生对未来就业的信心受到AI讨论的影响。建议通过教育和政策提升AI素养,以确保AI的公平性和责任感,减轻潜在的社会影响。

人工智能歧视性决策的认知:解读个人特征的作用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-17T00:00:00Z

本文探讨了面部表情识别(FER)领域的研究进展,包括深度神经网络、情感条件适应网络、标签偏差问题及种族偏见。研究提出了AU校准框架和GCF等新方法,显著提高了识别准确率,并强调了分析与缓解偏见的重要性。

学习发现广义面部表情

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-30T00:00:00Z

本文研究了深度人脸识别中的种族偏见,构建了RFW数据集,验证了多种算法的偏差,并提出了IMAN解决方案以缓解偏见。研究表明,IMAN在不同种族和数据库中具有良好的泛化能力。同时,分析了面部表情识别中的标签偏差和多模态情感识别系统的偏见,强调了分析和缓解不同类型偏见的重要性。

从偏见到平衡:检测大型多模态基础模型中的面部表情识别偏见

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-27T00:00:00Z

该研究分析了胸部X光模型中的性别和种族偏见,提出了识别和减轻数据偏见的方法。通过量化分析和实验,强调了数据选择和模型评估的重要性,以推动公共卫生领域的公平性。研究还探讨了样本选择偏差对机器学习算法性能的影响,并提出了新的研究方向和评估框架。

评估严重急性呼吸综合症数据集的预训练偏差

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-27T00:00:00Z

本文介绍了一种新的深度学习架构Age-Invariant Model(AIM),用于提高人脸合成和识别的可靠性。研究构建了大规模跨龄人脸数据集,并探讨了深度人脸识别中的种族偏见问题,提出了解决方案。实验结果显示,人脸识别系统在种族、年龄和性别方面存在偏见,强调了开发更公平系统的必要性。

揭开独特性的面纱:对非洲土著人面孔的年龄不变人脸识别的探索

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-13T00:00:00Z

这篇文章研究了文本到图像生成AI模型中的种族和性别刻板印象,提出了去偏方法并增加了人脸多样性。分析显示,AI生成的图像存在系统性的性别和种族偏见,强调了解决这些偏见的伦理紧迫性。研究还探讨了性别指示对生成图像的影响,揭示了职业和地理位置的偏见,呼吁采取措施防止偏见影响媒体生态。

DALL-E、Stable Diffusion、SDXL 和 Midjourney 中的自闭症谱视觉刻板印象

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-23T00:00:00Z

本研究评估大型语言模型(LLMs)的公平性,探讨其在不同提示下的社会偏见和任务表现。研究发现LLMs对提示敏感,存在性别和种族偏见,尤其对女性和少数族裔的刻板印象。提出了GPTBIAS框架以量化偏见,强调减少潜在伤害和不公平结果的重要性。

大型语言模型中同质偏差脆弱性的分化概率

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-10T00:00:00Z

研究表明,大型语言模型(LLMs)存在性别和种族偏见,尤其在职业建议和教育选择中表现明显。尽管新模型在性别偏见上有所改善,但种族偏见依然存在。引入特定提示方法可减少偏见,研究强调需谨慎测试,以确保对边缘化群体的公平对待。

哪个人在数学上更优秀,Jenny 还是 Jingzhen?揭示大型语言模型中的刻板印象

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-09T00:00:00Z

本文探讨了大规模视觉语言模型(VLMs)中的性别和种族偏见,指出这些模型在处理图像时受到文化和社会属性的影响,生成内容存在显著偏见。提出了校准和去偏抽样等策略,以减轻这些偏见,提高模型的公平性和准确性。

图像胜过言辞:从因果中介视角理解和减轻视觉语言模型中的偏见

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-03T00:00:00Z

本文提出了一种新方法,通过自监督学习和公平扩散策略,减少图像生成中的性别和种族偏见,支持多样化公平性。同时介绍了安全潜在扩散(SLD)技术,有效过滤不当图像提示,提升生成质量。

潜在方向:生成式人工智能中的偏见缓解简单路径

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-10T00:00:00Z

本文探讨了算法公平性在教育和医疗领域的应用,指出预测模型可能存在的性别和种族偏见。研究提出了优化算法以提高公平性的方法,包括个性化学生模型和对抗学习策略,旨在减少算法与种族之间的差异。同时,强调了在机器学习中检测和减轻偏见的重要性,呼吁建立负责任的AI框架以确保公正性。

评估预测菲律宾学生学术表现的模型中的算法偏见

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-16T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码