小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
分析大型语言模型中的方言偏见以评估知识和推理基准

大型语言模型(LLMs)在自然语言处理中的应用广泛,但对非标准英语方言的表现较差。研究显示,将“标准”美式英语问题视为非标准方言变体时,准确率下降可达20%。特定语法规则(如存在性“it”、零连系动词和“y’all”)对多方言的表现影响显著。呼吁未来研究关注高影响力语法结构的偏见缓解方法。

分析大型语言模型中的方言偏见以评估知识和推理基准

Apple Machine Learning Research Apple Machine Learning Research · 2025-10-09T00:00:00Z

本研究探讨大型语言模型的性别偏见表现,发现其能够中等程度推测性别,但仍受刻板印象影响,需加强偏见缓解策略。

Analysis of Gender Bias and Stereotypes in Large Language Models: Based on Online Shopping Data

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-04-02T00:00:00Z

本研究分析了预训练语言模型中的性别偏见,揭示了不同模型在性别编码上的一致性,并指出常见去偏见技术效果有限,甚至可能加剧偏见,为改善偏见缓解策略提供了指导。

预训练语言模型表示中的性别编码模式

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-03-09T00:00:00Z

本研究提出了一种新的公平性准则——极端反事实歧视(ECD),用于评估基于受保护群体的最坏情况不平等。研究表明,现有的偏见缓解措施在某些情况下可能加重歧视,而ECD缓解器在90%的情况下改善了极端情况下的公平性。

通过极值理论进行公平性测试

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-01-20T00:00:00Z

本研究提出了一种名为FairTTTS的新型后处理偏见缓解方法,旨在解决机器学习模型中的偏见问题。该方法通过调整保护属性节点的决策,提升弱势群体的公正性,并在七个数据集上验证了其显著提高公平性和准确性的效果。

FairTTTS: A Fairness-Aware Classification Tree Testing Time Simulation Method

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-01-14T00:00:00Z

本研究探讨生成语言模型中的偏见与任务特定缺陷之间的关系,提出了一种偏见缓解框架,通过指令微调减少了60%以上的刻板印象输出,强调了区分“偏见”与其他错误的重要性。

Biased or Flawed? Mitigating Bias in Generative Language Models by Addressing Task-Specific Flaws

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-12-16T00:00:00Z

该研究探讨了深度学习生成文本中的社会偏见,发现机器生成的文本在多个领域比人类撰写的文本更具偏见。研究提出了新的偏差测量数据集和评估框架,强调在评估大型语言模型的公平性时需谨慎,尤其是在经济偏见和人口属性方面。研究结果表明,偏见在不同模型中普遍存在,呼吁采取有效的偏见缓解技术。

评估大型语言模型开放式生成偏见的指标模型偏见基准

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-14T00:00:00Z

本研究提出了一种新预处理策略ProxiMix,结合mixup方法和偏见缓解算法,改善数据增强的公平性。实验表明,ProxiMix在预测和公平性补救方面表现优异。

ProxiMix: Enhancing Subgroup Fairness through Proximal Sample Augmentation

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-02T00:00:00Z

本文探讨机器学习中的鲁棒性表征及虚假相关性,提出基于最小充分统计量的鲁棒表征方法,并利用分组分布式优化应对数据偏移。研究表明,该方法在图像和语言任务中表现优越。此外,提出了多任务学习的偏见缓解技术,以优化准确性与公平性之间的权衡,增强模型的可解释性。实验验证了方法的有效性,解决了偏见缓解的可推广性问题。

通过多目标优化提高对多重虚假相关性的鲁棒性

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-09-05T00:00:00Z

本文综述了大型语言模型(LLMs)中的社会偏见评估与缓解技术,探讨了偏见的概念、评估指标及干预方法。研究表明,LLMs在输出中存在显著偏见,影响其作为评估器的可靠性。通过控制实验,分析了偏见对选择行为的影响,并提出设计无偏LLMs应用的建议。研究强调了偏见的复杂性及其对模型性能的影响,呼吁未来研究关注偏见的缓解策略。

更多即是更多:大型语言模型中的加法偏见

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-09-04T00:00:00Z

该研究探讨了预测模型多样性对公平性的影响,发现选择多个同等效果的模型可能对个人不利。偏见缓解技术在无偏数据上表现更好,但公平性与准确性之间存在权衡。文章总结了机器学习中的社会偏见问题,提出了提高算法公平性的方法,并指出了公平性研究面临的挑战。

男权主义对男性的伤害。你的模型是否认同?关于公平假设的讨论

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-08-01T00:00:00Z

本文探讨了大型语言模型中的性别偏见,提出了一种基于条件生成的间接探测框架,以揭示显性和隐性偏见。研究发现,所有测试模型均存在性别偏见,且模型规模的增加未能改善公平性。文章提供了缓解偏见的方法,并强调在开放式语言生成中报告偏见的重要性。

评估对隐含偏见进行无限生成的非裔女性的韵律和情感

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-07-01T00:00:00Z

研究表明,大语言模型存在性别偏见,提出了一种间接探测框架以揭示显式和隐式偏见。实验发现,即使在没有性别提及的情况下,模型仍表现出偏见。通过超参数调整等方法可以有效缓解这些偏见。此外,研究还指出模型在医疗领域的应用准确率较低,需谨慎评估。强调多样化数据集的重要性,以更好地反映人类经验和文化。

GenderAlign:用于减弱大型语言模型中性别偏差的对齐数据集

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-06-20T00:00:00Z

本研究利用自动语音识别(ASR)技术评估荷兰语口头阅读的准确度,提出了一种新模型用于诊断儿童发音问题,准确率约为90%。研究还探讨了ASR系统在儿童语言学习中的应用,分析了性别、年龄和口音等因素对识别的影响,并提出了偏见缓解策略。

通过自动语音识别在小学中进行阅读疏忽检测

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-06-11T00:00:00Z

本文探讨了机器学习中的偏见缓解技术,强调公平性与准确性之间的权衡。提出了一种基于多任务学习的方法,旨在优化模型的公平性和性能,同时提高可解释性。研究表明,公平性可能会牺牲部分隐私,尤其对弱势群体影响更大。实验结果显示,该方法在不同数据集上表现出色,为偏见缓解提供了可推广的解决方案。

信任公平数据:利用质量优化公平导向的数据去除技术

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-05-21T00:00:00Z

该研究分析了机器学习中的偏见缓解方法,评估了公平性和性能指标。结果表明,无法在所有情况下实现最佳的公平与性能平衡,某些优化技术可能导致模型失公。建议进一步探索标准化技术和指标,以确保机器学习模型的公正性。

如何做到公平?对标签和选择偏差的研究

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-03-21T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码