一项研究指出,主流云端大语言模型平台存在严重安全漏洞,内容过滤和提示注入防御效果差异明显。复杂攻击手段层出不穷,平台需在安全与用户体验之间找到平衡。研究显示,角色扮演攻击能够绕过过滤系统,表明当前防护过于依赖关键词检测,需加强深度意图分析。
完成下面两步后,将自动完成登录并继续当前操作。