小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
Crome:Google DeepMind 的因果框架,用于 LLM 对齐中建立稳健奖励模型

奖励模型(RM)面临奖励黑客攻击的挑战,难以区分表面属性与真实质量。Crome框架通过因果增强和中性增强策略,提高了RM的稳健性和准确性,有效解决了训练中的虚假相关性问题,优于传统方法。

Crome:Google DeepMind 的因果框架,用于 LLM 对齐中建立稳健奖励模型

实时互动网
实时互动网 · 2025-07-04T02:35:51Z

本研究提出MiMu方法,旨在解决模型依赖特征与标签之间的虚假相关性,减轻捷径学习现象,从而提高模型的稳健性和泛化能力。实验结果表明,该方法在自然语言处理和计算机视觉任务中显著增强了模型的鲁棒性。

MiMu: Mitigating Multiple Shortcut Learning Behaviors in Transformers

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-14T00:00:00Z

本研究提出了一种新颖的数据修剪技术,有效解决深度神经网络中的虚假相关性问题,实验结果表明该技术在识别虚假信息方面表现优异。

Eliminating False Correlations through Data Pruning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-24T00:00:00Z

本研究提出了一种结合因果学习与神经混沌学习的新方法,旨在解决深度学习在捕捉因果结构和高能耗方面的问题,有效减少虚假相关性,提升分类与预测效果。

Combining Causal Relationships with Neural Chaotic Learning: Proposed Methods and Research Agenda

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-23T00:00:00Z

本研究提出了一种新方法,通过RegText框架在自然语言数据集中注入虚假相关性,以遵循数据保护法律,限制新模型对公共数据的学习。

运用信息理论实现数据保护权

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-13T00:00:00Z

本研究提出RaVL方法,旨在发现和缓解微调视觉语言模型中的虚假相关性。通过区域级聚类识别导致分类错误的图像特征,并利用区域感知损失函数优化微调过程,从而显著提升模型性能。实验证明,RaVL在解决虚假相关性方面效果显著,具有广泛应用潜力。

RaVL: Discovering and Mitigating Spurious Correlations in Fine-Tuned Vision-Language Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-06T00:00:00Z

本文探讨机器学习中的鲁棒性表征及虚假相关性,提出基于最小充分统计量的鲁棒表征方法,并利用分组分布式优化应对数据偏移。研究表明,该方法在图像和语言任务中表现优越。此外,提出了多任务学习的偏见缓解技术,以优化准确性与公平性之间的权衡,增强模型的可解释性。实验验证了方法的有效性,解决了偏见缓解的可推广性问题。

通过多目标优化提高对多重虚假相关性的鲁棒性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-05T00:00:00Z

本研究提出了一种创新的解偏因果推断网络(DCIN),通过结构因果模型分解干扰因素,消除虚假相关性,减轻外部知识的偏见。实验结果显示,DCIN在Flickr30K和MSCOCO数据集上表现出优越性能。

基于因果推断的解偏图像-文本匹配研究

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-22T00:00:00Z

本文探讨了机器学习中的虚假相关性问题,提出了识别和减轻这些影响的方法,包括可解释框架DISC和概念平衡技术。研究指出,时序依赖性和标签不平衡会导致模型性能下降,强调增强模型可解释性的重要性以应对伪相关性,并综述了现有方法及未来研究挑战。

概念漂移中的虚假关联:解释性互动是否有助于?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-23T00:00:00Z

本文研究了神经网络分类器的一致性及其与准确性的关系,提出了一种利用无标签数据进行OOD预测的算法。研究发现虚假相关性会降低模型在野外数据上的表现,并提出通过引入“不变”特征来改善数据转移的方法。此外,探讨了深度神经网络在处理未知分布数据时的过度自信问题,并提出了改进的OOD检测框架。

错误数据上的准确度:关于嘈杂数据对于超出分布泛化的陷阱

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-27T00:00:00Z

本文探讨了机器学习中的虚假相关性问题,并提出了多种提高模型鲁棒性的方法,包括因果效应估计、特征选择和自监督去偏置框架。实验结果表明,这些方法在情感分类和毒性检测等任务中显著提升了分类准确性,尤其在虚假相关性较高的情况下表现优越。

自引导假相关抑制学习强化分类器

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-06T00:00:00Z

本文探讨机器学习中的鲁棒性表征及虚假相关性,提出基于最小充分统计量的鲁棒表征概念,并通过分组分布式鲁棒优化方法解决输入分布偏移问题。研究表明,该方法在图像和语言任务中表现出显著优势。

分布鲁棒安全筛选

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-25T00:00:00Z

本文探讨了因果推断和去偏方法在改善机器学习模型性能中的应用,特别是针对虚假相关性和数据偏差。提出了R2R和XCR等框架,旨在提升模型的公平性和准确性,并通过实证研究验证了其有效性。

反应性模型修正:通过条件偏差抑制缓解对任务相关特征的危害

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-15T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码