基于模型生命周期的垂直联邦学习中隐私威胁与防御调查
内容提要
该文综述垂直联邦学习（VFL），涵盖其概念、分类、隐私保护协议、攻击与防御策略，提出统一框架VFLow，并涉及安全挑战、后门攻击、特征推断攻击、多类别分类框架MMVFL及轻量级框架VFLAIR，回顾工业应用进展，指出开放性问题与未来方向。
延伸解读
VFL安全威胁的多样性
文章指出垂直联邦学习面临多种隐私威胁，包括后门攻击和特征推断攻击。其中，干净标签后门攻击技术可在三个数据集上有效实施，而特征推断攻击则针对模型预测阶段泄露隐私。这些攻击表明，仅依赖密码学技术保障数据隐私不足以确保模型安全，需进一步研究模型安全性。
防御策略与框架支持
为应对安全挑战，文章介绍了VFLAIR框架，它支持多种模型、数据集和协议，并集成了11种攻击和8种防御策略的基准研究。该框架为不同VFL部署场景下的防御策略选择提供了具体见解和建议，有助于实践者评估和选择合适的安全措施。
工业应用与开放问题
文章回顾了垂直联邦学习在工业应用中的最新进展，并指出了存在的开放性问题。尽管已有MMVFL等多类别分类框架和VFLAIR等轻量级框架，但在安全隐私、计算通信成本、模型分裂和系统异构等方面仍面临挑战，需要进一步研究解决方案。
Q&A
垂直联邦学习（VFL）是什么？它和普通联邦学习有什么区别？
垂直联邦学习是联邦学习的一种类别，其中每个客户端共享相同的样本空间，但仅持有特征的子集。与普通联邦学习不同，普通联邦学习通常针对不同样本但相同特征空间，而VFL针对相同样本的不同特征。
垂直联邦学习面临哪些隐私威胁？
垂直联邦学习面临多种隐私威胁，包括后门攻击、特征推断攻击、干扰攻击等。后门攻击方面，有研究提出了第一种干净标签后门攻击技术；特征推断攻击方面，有研究调查了模型预测阶段可能存在的隐私泄露问题，并证明了攻击方法的有效性。
VFLow统一框架是什么？它有什么作用？
VFLow是一个针对垂直联邦学习的统一框架，用于系统化地分析VFL中的隐私威胁与防御。该框架从硬件层到垂直联邦系统层对现有工作和挑战进行分类，并特别设计了MOSP树分类法来分析保护对象、安全模型和隐私保护协议等四个维度的核心组件。
MMVFL框架解决了垂直联邦学习中的什么问题？
MMVFL是一个多方参与的多类别垂直联邦学习框架，采用多视角学习的思想，在保护隐私的前提下，将标签信息从其所有者分享到其他联邦学习参与者中。实验结果表明，MMVFL可以在多个VFL参与者之间有效地共享标签信息，并达到现有方法的多类别分类性能水平。
VFLAIR是什么？它提供了哪些功能？
VFLAIR是一个可扩展且轻量级的VFL框架，支持多种模型、数据集和协议的VFL训练，包括各种攻击和防御策略的综合评估，以及在不同通信和模型划分设置下的11种攻击和8种防御策略的性能基准研究，为不同实际VFL部署场景的防御策略选择提供具体见解和建议。
垂直联邦学习在工业应用中有哪些进展和开放性问题？
文章回顾了工业应用的最新进展，并指出了存在的开放性问题和未来发展方向。具体进展和问题包括安全隐私、大量计算和通信成本、模型分裂和系统异构等方面的研究挑战，以及需要进一步研究模型安全性等。
