Test Suite for Prompt Injection Attacks in LLM-based Machine Translation

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本文研究了提示注入攻击对大语言模型翻译的影响,开发了测试工具以增强防御。研究扩展了攻击方法,涵盖WMT 2024所有语言对,并引入新攻击格式,展示了多样性和潜在威胁。

🏷️

标签

➡️

继续阅读