一项研究指出，主流云端大语言模型平台存在严重安全漏洞，内容过滤和提示注入防御效果差异明显。复杂攻击手段层出不穷，平台需在安全与用户体验之间找到平衡。研究显示，角色扮演攻击能够绕过过滤系统，表明当前防护过于依赖关键词检测，需加强深度意图分析。

本研究分析了14,904个定制GPT的安全脆弱性，发现超过95%缺乏有效保护，尤其在角色扮演攻击和系统提示泄露方面，强调了加强安全措施的必要性。