研究分析大型语言模型中的偏见及其对公正性和可靠性的影响。通过提示工程揭示偏见，并测试越狱提示的对抗性。实验显示，这些模型易被操控产生偏见回应，需加强缓解技术以实现更包容的人工智能发展。

研究人员开发了RedAgent，一种用于生成上下文感知的越狱提示的多智能体LLM系统。实验证明，RedAgent可以有效地越狱大部分黑盒LLMs，并发现了60个严重漏洞。研究人员已报告并修复了这些漏洞。

最近的研究发现，文本优化器可以产生绕过审核和对齐的越狱提示。研究评估了几种基线防御策略，并讨论了每种考虑的防御的鲁棒性和性能权衡。在过滤和预处理方面获得了比其他领域预期的更多成功。

最近的研究深入理解了大型语言模型的安全漏洞，发现文本优化器可以绕过审核和对齐的越狱提示。研究提出了三个问题：有用的威胁模型是哪些？基线防御技术在这个新领域中的表现如何？LLM安全性与计算机视觉有何不同？研究评估了几种基线防御策略，并讨论了每种策略的情况。在过滤和预处理方面获得了比其他领域更多成功，这表明在这些领域中可能对这些防御的相对优势进行了不同的权衡。