“提示注入”与“破解”并不是一回事 [译]
原文中文，约2400字，阅读约需6分钟。发表于：。我注意到很多人在讨论“破解”时误用了“提示注入”这个术语。这种误用已经变得如此普遍，以至于我怀疑我们是否还能纠正回来。语言的含义（特别是新近创造的术语）源于人们的使用习惯。尽管如此，我还是想尝试澄清这一点，因为我相信这两者之间的区别至关重要。
本文讨论了“提示注入”和“破解”的区别，前者是针对大语言模型应用程序的攻击手段，后者是绕过模型内置安全过滤机制的攻击方式。提示注入的风险更严重，因为攻击目标是构建在模型之上的应用程序。文章还提到了个人数字助理应用中的提示注入风险，并提出了可能的解决策略。作者强调了区分这两个术语的重要性，并表示对于提示注入的防护需要找到有效的解决方案。
