本研究探讨了大型语言模型中的性别偏见问题,提出了性别缓解技术和FT-REGARD方法,评估了模型在信息检索和长文本生成中的偏见表现,强调了公平性测试的重要性,并提出了改进模型性能的策略。
本文综述了大型语言模型中的性别偏见评估与缓解技术。研究显示,模型在性别刻板印象和职业偏见方面存在明显问题,并提出了新的测试方法以减少这些偏见。强调跨学科合作在减少AI模型性别偏见中的重要性,并探讨了不同文化背景下性别偏见的影响。
该文综述大语言模型幻觉研究,涵盖幻觉分类、成因(如训练数据记忆与频率偏好)、检测方法与基准,以及检索增强生成、知识检索等缓解技术,并讨论评估挑战与未来方向,旨在提升模型可靠性与忠实度。
该文综述大语言模型与大型视觉语言模型的幻觉问题,涵盖幻觉分类、成因、检测方法、评估基准及缓解技术(如检索增强生成、LURE),并提出HILT数据集、HVI指数和POPE评估方法,以提升模型可靠性。
该文综述大语言模型与多模态模型的“幻觉”问题:从表示学习角度引入对比学习以减少多模态幻觉;提出基于标记的方法识别幻觉类型,提升对话摘要的可解释性与忠实度;梳理32种缓解技术并分类分析其挑战;介绍M-HalDetect数据集及细粒度偏好优化方法;通过候选识别、校验与减轻将GPT-3幻觉率从47.5%降至14.5%;并总结幻觉检测、评估框架、幻视分类以及HILT数据集与脆弱性指数等进展。
完成下面两步后,将自动完成登录并继续当前操作。