本文介绍了大语言模型(LLM)中的提示词注入攻击,包括直接和间接注入。攻击者通过操纵输入来控制LLM执行恶意操作,可能导致数据泄露和社会工程等问题。文章提供了防御措施,如权限控制和信任边界的建立。案例包括黑客写入提示词、用户使用注入的网页和上传注入的简历。
完成下面两步后,将自动完成登录并继续当前操作。