本文提出了MLLM-Protector,旨在提升多模态大型语言模型(MLLMs)的安全性。通过结合轻量级有害检测器和响应解毒剂,该策略有效降低了恶意输入的风险。研究开发了视觉语言安全指令数据集VLGuard,并通过微调提升模型安全性,显著降低了对抗攻击的成功率。此外,提出了VISAGE安全度量标准,帮助评估LLMs的安全性,强调了系统提示在保护模型中的重要性。
完成下面两步后,将自动完成登录并继续当前操作。