基于提示学习的医疗基础模型后门攻击：BAPLe
内容提要
本文介绍了一种基于频率注入的背门攻击方法（FIBA），针对医学图像分析系统的分类和预测模型进行攻击。研究表明，多模态网络易受攻击，提出的双重密钥多模态后门攻击成功率高达98%。此外，针对联邦生成对抗网络（FedGANs）提出了防御措施FedDetect，有效抵御后门攻击。研究还探讨了医学成像领域的基础模型及其安全隐患，强调对错误标签的警惕。
延伸解读
攻击效率与数据污染
文章指出，双重密钥多模态后门攻击仅需污染1%的训练数据即可达到98%的攻击成功率，这表明攻击者能以极低的数据污染代价实现高效攻击。对于医学图像分析系统而言，训练数据通常规模较大，1%的污染比例可能难以被常规数据审查发现，因此需要特别关注训练数据的来源和完整性验证。
防御策略的多样性
针对后门攻击，文章提到了多种防御手段：FedDetect用于联邦生成对抗网络，通过全局恶意检测和局部训练正则化抵御攻击；零样本图像净化框架则能在黑盒模型中防御各种攻击，无需模型内部信息。这些防御策略各有侧重，实际部署时需根据模型类型和攻击场景选择合适的方案。
错误标签的潜在风险
文章强调，即使标签未经修改，错误标签注入也能形成清洁图像后门攻击，对图像分类模型的公正性和鲁棒性造成严重威胁。在医学领域，外包标注中的错误标签可能被攻击者利用，因此对标注质量的控制和审核至关重要，不能仅依赖标签的表面正确性。
Q&A
什么是基于频率注入的背门攻击方法（FIBA）？
FIBA是一种针对医学图像分析系统的背门攻击方法，能够对分类和密集预测模型进行攻击，成功率高达98%。
多模态网络为何容易受到后门攻击？
研究表明，多模态网络容易受到后门攻击，尤其是通过双重密钥多模态后门攻击，攻击成功率极高。
如何防御联邦生成对抗网络中的后门攻击？
针对联邦生成对抗网络，提出了防御措施FedDetect，能够有效抵御后门攻击并提高分类性能。
零样本图像净化的后门防御框架是如何工作的？
该框架通过对污染图像进行线性变换消除触发模式，并使用预训练扩散模型恢复缺失的语义信息，最终生成高保真净化图像。
医学成像领域的基础模型存在哪些安全隐患？
基础模型的潜在安全隐患包括标签的不一致性，这可能对模型造成严重影响，需对错误标签保持警惕。
引入不可察觉的噪声如何保护医学数据的隐私？
通过选择性扰乱重要像素区域，引入不可察觉的噪声可以提高医学数据的保护效率和效果，防止未经授权的训练。
