上下文溢出攻击：大模型提示黑客技术
原文中文，约800字，阅读约需2分钟。
📝
内容提要
HackAPrompt是全球首次Prompt Hacking竞赛，有超过3000名黑客参与，提交了60万条恶意提示。主办方分析了超过600,000个恶意代码，发现了18种常用的提示黑客技术。竞赛中，上下文溢出攻击被用来限制ChatGPT的输出长度。
🏷️
