BriefGPT - AI 论文速递
·
安全RLHF-V：多模态大语言模型中的人类反馈安全强化学习
📝
内容提要
本研究解决了多模态大语言模型（MLLMs）面临的安全风险问题，提出了安全RLHF-V框架，通过拉格朗日约束优化方法联合优化模型的有效性与安全性。研究发现，该框架能够在提升模型有效性的同时，显著提高安全性，实验显示安全性提升34.2%，有效性提升34.3%，为多模态AI助手的安全发展提供了重要支持。
➡️
