攻击图：改进的黑箱可解释性越狱方法用于大型语言模型

本研究解决了大型语言模型（LLMs）易受对抗性越狱攻击的问题，这些攻击可绕过模型的安全机制。提出的攻击图（GoAT）方法通过图思想框架生成对抗性提示，具有更高的越狱成功率，且无需访问目标模型参数。此方法显著提高了对LLMs的鲁棒性测试效率，展现了深度集成和协作探索对抗性脆弱性的潜力。