《大语言模型（LLM）攻防实战手册》第一章：提示词注入（LLM01）-概述

原文约3200字，阅读约需8分钟。发表于：。

本文主要基于owasp llm top 10所整理的框架进行编写，并辅以案例、代码进行完善。

本文介绍了大语言模型（LLM）中的提示词注入攻击，包括直接和间接注入。攻击者通过操纵输入来控制LLM执行恶意操作，可能导致数据泄露和社会工程等问题。文章提供了防御措施，如权限控制和信任边界的建立。案例包括黑客写入提示词、用户使用注入的网页和上传注入的简历。