本文研究了机器学习模型的隐私风险及成员推理攻击,提出了一种基于预测熵的攻击方法和隐私风险得分指标。研究发现,个体样本的隐私风险差异显著,主要受模型敏感性和特征嵌入的影响。提出的防御机制“用于成员隐私的蒸馏”能够有效平衡隐私与分类准确性。此外,隐私审计方案量化了大规模模型的隐私泄露,强调了数据集特性与攻击脆弱性之间的关系。
该研究提出了一种名为PAUMER的方法,通过在最终解码器之前暂停对不再需要计算的路径进行计算来提高分割变换器效率。该方法使用预测熵作为暂停的准则,并可以通过调整暂停参数轻松地适应各种运行时要求。在两个标准分割数据集上展示了该方法的效果,吞吐量提高了约50%。
完成下面两步后,将自动完成登录并继续当前操作。