理解越狱成功：大型语言模型中潜空间动力学的研究

提出了三个指标来评估语言模型的越狱：安全违规、信息性和相对真实性。

通过预处理响应扩展了自然语言生成评估方法，评估了来自三个恶意目的数据集和三个越狱系统的基准数据集。

实验证明多方面评估方法在平均 F1 得分上提高了 17%。

研究显示当前大型语言模型在显式正常指令中存在不同的越狱率，指令动词影响模型生成不安全内容的概率。

对多语言越狱攻击进行了深入探究，提出了一种新的语义保持算法，显著降低了攻击成功率。

开发了一个基于人工智能的系统来自动化产生 jailbreak prompts 的过程，以应对生成潜在有害内容的风险。

通过设计和分析敏感问题，揭示了在 LLMs 中识别漏洞的有效方法，推进了 LLM 的安全性。

评估了九种攻击技术和七种防御技术在不同语言模型中的效果，释放了数据集和测试框架以促进进一步研究。

发现 jailbreak prompts 的独特特征及其攻击策略，评估了当前 LLMs 在防御 jailbreak prompts 方面的不足。

提出了一个辅助框架和视觉分析系统，帮助用户评估模型安全性并识别模型弱点。