BriefGPT - AI 论文速递
·
How to Conduct Backdoor Attacks on Knowledge Distillation
💡
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本研究质疑知识蒸馏的安全性，提出通过在蒸馏数据集中嵌入后门触发器的对抗样本进行后门攻击的方法。实验表明，该方法能够在不影响教师模型的情况下，成功影响学生模型，揭示了知识蒸馏中的安全漏洞。
🎯
关键要点
- 本研究质疑知识蒸馏过程中的假设安全性。
- 提出了一种通过在蒸馏数据集中嵌入后门触发器的对抗样本进行后门攻击的方法。
- 实验结果表明，该方法能够在不影响教师模型的情况下，成功影响学生模型。
- 研究揭示了知识蒸馏过程中的安全漏洞，推动了未来在知识蒸馏安全性研究中的进展。
➡️
