Google 巴德对抗图像攻击的鲁棒性

本文讨论了在大型语言模型中引入视觉的趋势，指出了高维视觉输入空间本质上是对抗性攻击的理想介质，以及这种趋势的广泛功能使得视觉攻击者有更多的攻击目标。研究发现对抗性例子可以打破安全机制并生成有害内容，因此强调了对于安全使用视觉语言模型的紧迫需要，需要进行全面的风险评估，强大的防御措施和实施负责任的工作实践。