小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究提出了一种“软最佳抽样”方法,旨在解决对齐语言模型输出与人类偏好时的失真成本问题。该方法通过温度参数实现原始分布与奖励最大化分布的平滑插值,理论上证明其以O(1/n)速度收敛,从而提升模型的对齐效果。

Soft Optimal Sampling Method for Model Alignment

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-06T00:00:00Z

本研究提出试验-错误-解释上下文学习(TICL),有效解决语言模型输出与用户风格不一致的问题。通过试错迭代扩展学习提示,模型对齐效果显著提升,胜率达到91.5%。

Trial-and-Error Context Learning for Unoptimized Personalized Alignment

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-13T00:00:00Z

本研究提出了Wasserstein DPO和Kullback-Leibler DPO两种新算法,以解决大型语言模型与人类偏好对齐中的分布变化问题,实验结果显示其对齐效果显著提升。

Distributionally Robust Direct Preference Optimization

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-04T00:00:00Z

本研究提出了一种好奇心驱动的强化学习框架(CD-RLHF),旨在解决人类反馈强化学习中输出多样性降低的问题。实验结果表明,CD-RLHF在多个任务上显著提升了输出多样性,同时与人类偏好的对齐效果相当。

Curiosity-Driven Reinforcement Learning Based on Human Feedback

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-20T00:00:00Z

本研究提出了“文化调色板”多智能体框架,旨在解决大型语言模型在对齐多样文化价值时的单一文化偏见和语义捕捉困难。通过借鉴五大洲的文化灵感,显著提高了文化价值的对齐效果,实验结果优于现有方法。

Cultural Palette: Diversifying Culture Alignment through a Multi-Agent Palette

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-15T00:00:00Z

本文介绍了多种视频时刻检索模型的进展,包括Moment Alignment Network、交叉模态交互网络和跨模态相关性匹配模型。这些模型通过结合语言查询和视频内容,提高了检索准确性和定位精度。此外,研究还提出了去偏置网络和背景感知模型,进一步增强了视频与文本的对齐效果。

解耦与去噪:解决视频时刻检索中的上下文不对齐问题

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-14T00:00:00Z

本文探讨了大型语言模型在视频多模态系统中的应用,提出了VLM-RLAIF和SRT等新方法,以提高视频与文本的对齐效果。这些方法通过自我优化和细粒度注释,显著提升了模型性能,减少了对人类注释的依赖,并促进了持续学习。此外,研究展示了如何利用视频字幕和视觉约束改善视频问答任务的表现。

i-SRT: 视频的大型多模态模型对齐通过迭代式自我回顾判断

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-17T00:00:00Z

本文研究了通过奖励集成方法改进人类反馈强化学习(RLHF)模型的对齐效果,提出使用多个奖励模型和动态权重来优化评估性能。实验表明,该方法在多个基准数据集上优于现有技术,并探讨了奖励模型在语言模型应用中的校准问题,强调了从人类反馈中进行强化学习的重要性。

缓解奖励过度优化的可扩展集成方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-03T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码