小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
分析大型语言模型中的方言偏见以评估知识和推理基准

大型语言模型(LLMs)在自然语言处理中的应用广泛,但对非标准英语方言的表现较差。研究显示,将“标准”美式英语问题视为非标准方言变体时,准确率下降可达20%。特定语法规则(如存在性“it”、零连系动词和“y’all”)对多方言的表现影响显著。呼吁未来研究关注高影响力语法结构的偏见缓解方法。

分析大型语言模型中的方言偏见以评估知识和推理基准

Apple Machine Learning Research
Apple Machine Learning Research · 2025-10-09T00:00:00Z

本研究探讨大型语言模型的性别偏见表现,发现其能够中等程度推测性别,但仍受刻板印象影响,需加强偏见缓解策略。

Analysis of Gender Bias and Stereotypes in Large Language Models: Based on Online Shopping Data

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-02T00:00:00Z

本研究分析了预训练语言模型中的性别偏见,揭示了不同模型在性别编码上的一致性,并指出常见去偏见技术效果有限,甚至可能加剧偏见,为改善偏见缓解策略提供了指导。

预训练语言模型表示中的性别编码模式

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-09T00:00:00Z

本研究提出了一种新的公平性准则——极端反事实歧视(ECD),用于评估基于受保护群体的最坏情况不平等。研究表明,现有的偏见缓解措施在某些情况下可能加重歧视,而ECD缓解器在90%的情况下改善了极端情况下的公平性。

通过极值理论进行公平性测试

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-20T00:00:00Z

本研究提出了一种名为FairTTTS的新型后处理偏见缓解方法,旨在解决机器学习模型中的偏见问题。该方法通过调整保护属性节点的决策,提升弱势群体的公正性,并在七个数据集上验证了其显著提高公平性和准确性的效果。

FairTTTS: A Fairness-Aware Classification Tree Testing Time Simulation Method

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-14T00:00:00Z

本研究探讨生成语言模型中的偏见与任务特定缺陷之间的关系,提出了一种偏见缓解框架,通过指令微调减少了60%以上的刻板印象输出,强调了区分“偏见”与其他错误的重要性。

Biased or Flawed? Mitigating Bias in Generative Language Models by Addressing Task-Specific Flaws

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-16T00:00:00Z

该研究探讨了深度学习生成文本中的社会偏见,发现机器生成的文本在多个领域比人类撰写的文本更具偏见。研究提出了新的偏差测量数据集和评估框架,强调在评估大型语言模型的公平性时需谨慎,尤其是在经济偏见和人口属性方面。研究结果表明,偏见在不同模型中普遍存在,呼吁采取有效的偏见缓解技术。

评估大型语言模型开放式生成偏见的指标模型偏见基准

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-14T00:00:00Z

本研究提出了一种新预处理策略ProxiMix,结合mixup方法和偏见缓解算法,改善数据增强的公平性。实验表明,ProxiMix在预测和公平性补救方面表现优异。

ProxiMix: Enhancing Subgroup Fairness through Proximal Sample Augmentation

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-02T00:00:00Z

本文探讨机器学习中的鲁棒性表征及虚假相关性,提出基于最小充分统计量的鲁棒表征方法,并利用分组分布式优化应对数据偏移。研究表明,该方法在图像和语言任务中表现优越。此外,提出了多任务学习的偏见缓解技术,以优化准确性与公平性之间的权衡,增强模型的可解释性。实验验证了方法的有效性,解决了偏见缓解的可推广性问题。

通过多目标优化提高对多重虚假相关性的鲁棒性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-05T00:00:00Z

本文综述了大型语言模型(LLMs)中的社会偏见评估与缓解技术,探讨了偏见的概念、评估指标及干预方法。研究表明,LLMs在输出中存在显著偏见,影响其作为评估器的可靠性。通过控制实验,分析了偏见对选择行为的影响,并提出设计无偏LLMs应用的建议。研究强调了偏见的复杂性及其对模型性能的影响,呼吁未来研究关注偏见的缓解策略。

更多即是更多:大型语言模型中的加法偏见

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-04T00:00:00Z

该研究探讨了预测模型多样性对公平性的影响,发现选择多个同等效果的模型可能对个人不利。偏见缓解技术在无偏数据上表现更好,但公平性与准确性之间存在权衡。文章总结了机器学习中的社会偏见问题,提出了提高算法公平性的方法,并指出了公平性研究面临的挑战。

男权主义对男性的伤害。你的模型是否认同?关于公平假设的讨论

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-01T00:00:00Z

本文探讨了大型语言模型中的性别偏见,提出了一种基于条件生成的间接探测框架,以揭示显性和隐性偏见。研究发现,所有测试模型均存在性别偏见,且模型规模的增加未能改善公平性。文章提供了缓解偏见的方法,并强调在开放式语言生成中报告偏见的重要性。

评估对隐含偏见进行无限生成的非裔女性的韵律和情感

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-01T00:00:00Z

研究表明,大语言模型存在性别偏见,提出了一种间接探测框架以揭示显式和隐式偏见。实验发现,即使在没有性别提及的情况下,模型仍表现出偏见。通过超参数调整等方法可以有效缓解这些偏见。此外,研究还指出模型在医疗领域的应用准确率较低,需谨慎评估。强调多样化数据集的重要性,以更好地反映人类经验和文化。

GenderAlign:用于减弱大型语言模型中性别偏差的对齐数据集

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-20T00:00:00Z

本研究利用自动语音识别(ASR)技术评估荷兰语口头阅读的准确度,提出了一种新模型用于诊断儿童发音问题,准确率约为90%。研究还探讨了ASR系统在儿童语言学习中的应用,分析了性别、年龄和口音等因素对识别的影响,并提出了偏见缓解策略。

通过自动语音识别在小学中进行阅读疏忽检测

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-11T00:00:00Z

本文探讨了机器学习中的偏见缓解技术,强调公平性与准确性之间的权衡。提出了一种基于多任务学习的方法,旨在优化模型的公平性和性能,同时提高可解释性。研究表明,公平性可能会牺牲部分隐私,尤其对弱势群体影响更大。实验结果显示,该方法在不同数据集上表现出色,为偏见缓解提供了可推广的解决方案。

信任公平数据:利用质量优化公平导向的数据去除技术

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-21T00:00:00Z

该研究分析了机器学习中的偏见缓解方法,评估了公平性和性能指标。结果表明,无法在所有情况下实现最佳的公平与性能平衡,某些优化技术可能导致模型失公。建议进一步探索标准化技术和指标,以确保机器学习模型的公正性。

如何做到公平?对标签和选择偏差的研究

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-21T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码