本研究填补了语言模型漏洞与越狱技术的空白，提出了新数据集以评估模型输出的危害性，发现量化技术影响模型的对齐性和鲁棒性，增强鲁棒性可能导致对攻击的脆弱性增加。

本研究揭示了一种利用大型语言模型（LLM）偏离上下文的越狱技术，成功绕过九个聊天机器人的安全限制，成功率为62%。这表明现有安全训练存在重大缺陷，需改革测试方法以确保LLM的安全性。

微软发现了一种新的越狱技术，称之为“万能钥匙”，可以使聊天机器人忽略护栏。人工智能公司努力阻止用户找到新的越狱方法，以防止聊天机器人帮助制造毒品或炸弹。人类如何判断涉及风险和安全内容类别是一个关键问题。让大模型具有道德感仍然是一个挑战。