研究人员攻破了OpenAI的Guardrails安全护栏，利用提示注入方法绕过安全检测，生成危险内容。攻击者能够同时操控生成模型和安全评估模型，导致系统漏洞。专家警告，依赖模型评估可能造成虚假安全感，建议采用独立验证和持续对抗测试以增强防御。

本文探讨了大型语言模型（LLMs）的安全性评估与对抗问题，提出了攻击框架和自动红队方法以增强模型安全性。研究表明，LLMs易产生内隐性毒性输出，因此需要开发更鲁棒的检测系统。计划创建名为Sentinel的模型用于网络安全分析，并通过对抗测试识别漏洞，提升整体安全性。