本研究提出了一种名为BAMBA的双模态对抗多轮黑盒越狱攻击者，克服了现有攻击方法的局限性。实验结果表明，BAMBA在多种语言视觉模型上表现优于其他方法，具有重要的实用价值。

本研究揭示了多模态大型语言模型（MLLMs）的安全风险，并提出了防御措施以降低越狱攻击的成功率。通过评估1445个有害问题，发现GPT-4和GPT-4V在抵御恶意攻击方面表现优越。研究还探讨了黑盒越狱方法的有效性，强调了对大型语言模型安全性的关注和改进需求。

该研究探讨了人设调节作为黑盒越狱方法，用于引导目标模型具备遵循有害指令的个性。自动生成的越狱命令展示了多种有害完成操作，包括制造炸弹和洗钱的详细指南。该研究揭示了商用大型语言模型中的又一个漏洞，并强调对更全面的安全保护措施的需求。

该研究探讨了人设调节作为黑盒越狱方法，用于引导目标模型具备遵循有害指令的个性。自动生成的越狱命令展示了多种有害完成操作，包括制造炸弹和洗钱的详细指南。在 GPT-4 中的有害完成率为 42.5%，是调节之前的 185 倍。