BriefGPT - AI 论文速递 · 2024-11-13T00:00:00Z

The VLLM Safety Paradox: Dual Vulnerability in Jailbreak Attacks and Defenses

📝

内容提要

本研究探讨视觉大语言模型（VLLM）在越狱攻击下的脆弱性，指出现有防御机制过于谨慎，可能在良性输入时意外放弃效果。同时，常用的越狱评估方法可能误导攻击策略和防御机制的评估，呼吁重新审视基准数据集和防御策略。

🏷️

标签

基准数据集 视觉大语言模型 评估方法 越狱攻击 防御机制