研究针对设备端模型的白盒攻击
内容提要
该文综述深度学习安全研究：真实应用中81.56%的模型可被成功攻击；黑盒攻击可通过查询推断模型架构与训练数据，替代模型结合主动学习能减少90%以上查询；SparseEvo等稀疏攻击效率更高；利用缓存漏洞结合AI可窃取隐私，准确率超98%，凸显模型防护的重要性。
延伸解读
设备端模型攻击成功率揭示安全短板
文章指出，在真实世界的深度学习应用中，81.56%的模型可被成功攻击。这一数据表明，设备端模型面临普遍的安全威胁，开发者需重视模型防护，而非仅关注功能实现。高攻击成功率也提示，现有防御措施可能不足，需从数据处理全流程加强安全设计。
黑盒攻击效率提升与隐私保护的双面性
黑盒攻击可通过查询推断模型架构与训练数据，但替代模型结合主动学习能减少90%以上查询。这既降低了攻击成本，也说明查询接口可能泄露敏感信息。同时，该技术也可用于隐私保护，例如通过影子模型增强白盒成员推理攻击中的训练数据保护。
稀疏攻击与缓存漏洞：新型威胁浮现
SparseEvo等稀疏攻击算法在卷积网络和视觉Transformer上展现出更高效率，但文章指出仍需进一步探究以增强模型安全性。此外，利用处理器微体系结构漏洞（如末级缓存）结合AI技术，可窃取移动用户隐私，实验模型精度超98%，凸显硬件层攻击风险。
Q&A
真实世界中深度学习模型被成功攻击的比例是多少？
81.56%的应用程序可以成功攻击。
黑盒攻击如何减少查询次数？
使用替代模型结合主动学习策略和多样性准则，可以将查询数量减少超过90%并保持攻击成功率。
SparseEvo算法有什么特点？
SparseEvo是一种基于模型决策的稀疏攻击算法，应用于卷积深度神经网络和视觉Transformer等模型，与之前算法相比具有更高的攻击效率。
利用缓存漏洞和AI技术能造成什么隐私风险？
通过结合先进AI技术与最终级缓存(LLC)的活动剖析，可以侵害移动电话用户个人隐私数据，实验模型精度达到98%以上。
黑盒攻击是否需要了解模型内部或训练数据？
不需要，黑盒攻击可以远程控制机器学习模型，无需了解模型内部或训练数据。
白盒MIA攻击中如何更好地保护训练数据？
使用影子模型可以更好地保护训练数据，通过对比不同初始化方法和使用realigned的影子模型发现。
