探讨视觉状态空间模型对孤立攻击的鲁棒性

BriefGPT - AI 论文速递 · 2024-08-21T00:00:00Z

本研究发现，使用指令调优增强大规模视觉语言模型(LVLMs)可能导致后门攻击。研究评估了六种典型后门攻击在图像字幕基准测试上的普适性，并发现攻击的普适性与后门触发器与特定图像/模型的不相关性以及触发器模式的偏好相关。研究还改进了现有的后门攻击方法，在跨域场景的普适性方面取得了显著改进。因此，即使是简单的传统后门策略也对LVLMs构成严重威胁，需要更多关注和深入研究。