本研究对形式主义和已知越狱攻击进行分类，并调查了开源和商业LLM上现有越狱方法的有效性。同时提出了一组提示守卫，并讨论了其对已知攻击类型的有效性。

认知过载：运用超负荷逻辑思维破解大型语言模型
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证