本研究提出了一种名为BAMBA的双模态对抗多轮黑盒越狱攻击者，克服了现有攻击方法的局限性。实验结果表明，BAMBA在多种语言视觉模型上表现优于其他方法，具有重要的实用价值。

该研究探讨了人设调节作为黑盒越狱方法，用于引导目标模型具备遵循有害指令的个性。自动生成的越狱命令展示了多种有害完成操作，包括制造炸弹和洗钱的详细指南。该研究揭示了商用大型语言模型中的又一个漏洞，并强调对更全面的安全保护措施的需求。

该研究探讨了人设调节作为黑盒越狱方法，用于引导目标模型具备遵循有害指令的个性。自动生成的越狱命令展示了多种有害完成操作，包括制造炸弹和洗钱的详细指南。在 GPT-4 中的有害完成率为 42.5%，是调节之前的 185 倍。