BriefGPT - AI 论文速递 · 2023-11-15T00:00:00Z

对奖励机器强化学习的对抗性攻击

📝

内容提要

本文通过强化学习生成对抗性样本，探究了神经机器翻译系统的失败情况，并对两种主流架构进行了敌对攻击实验。结果显示该方法能有效生成稳定的攻击和有保留含义的对抗性样本，并展示了攻击偏好模式的定性和定量分析，证明了该方法能暴露系统的缺陷。

🏷️

标签

对抗性样本 强化学习 敌对攻击 神经机器翻译 系统缺陷