BriefGPT - AI 论文速递
·
隐形威胁：OCR 系统中的后门攻击
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
研究人员提出了一种新的后门注入方法，可以注入比以前更强大的后门类型，攻击是盲目的，但可以生成受污染的训练输入，并使用多目标优化技术实现高准确性。研究人员还提出了如何规避任何已知防御措施的盲目攻击，并提出了新的防御措施。
🎯
关键要点
- 研究人员提出了一种新的后门注入方法，通过破坏模型训练代码中的损失值计算。
- 该方法展示了比以前更强大的后门类型，包括单像素和物理后门。
- 后门可以将模型转换为隐蔽的侵犯隐私任务，无需修改推理时输入。
- 攻击是盲目的，攻击者无法修改训练数据、观察代码执行或访问生成的模型。
- 攻击代码在模型训练过程中即时生成受污染的训练输入。
- 使用多目标优化技术实现对主任务和后门任务的高准确性。
- 研究人员提出了规避已知防御措施的盲目攻击方法，并提出新的防御措施。
➡️
