模型被投毒攻击，如今有了新的安全手段，还被AI顶刊接收
内容提要
联邦学习（FL）是一种分布式的协作学习方法，允许多个数据所有者在不泄露数据隐私的情况下协作训练机器学习模型。FLock系统通过点对点投票和奖惩机制，结合区块链和智能合约技术，提供了安全可靠的FL系统结构，能够防止恶意行为。实证分析证明了FLock方法的有效性和鲁棒性。
延伸解读
FLock 如何应对联邦学习中的投毒攻击
传统联邦学习依赖中心服务器聚合模型，存在单点故障风险，恶意客户端可通过投毒攻击破坏全局模型。FLock 利用区块链和智能合约，引入点对点投票与奖惩机制，让参与者质押代币并随机担任提议者或投票者，通过多数投票决定是否接受聚合更新。这种设计不依赖复杂密码学协议，降低了计算开销，同时能有效检测和阻止恶意行为。
奖惩机制与代币经济学的实际影响
FLock 的奖惩机制受 PoS 和《The Resistance》游戏启发，诚实参与者代币随训练轮数增加，恶意参与者代币减少。实验表明，惩罚力度（gamma）越大，恶意节点代币减少越快，存活时间越短。但惩罚力度过大也可能误伤诚实节点，尤其在恶意节点占比较高时。因此实际部署需根据恶意节点比例（eta）调整惩罚力度，平衡安全性与参与积极性。
实验验证与未来方向
FLock 在 Kaggle Lending Club 和 ChestX-ray14 数据集上验证了其鲁棒性，相比传统联邦学习，能在有恶意节点时保持稳定性能。该研究已被 IEEE TAI 接收，并计划推出去中心化 AI 训练平台，面向开发者和任务创建者。未来还将探索零知识证明等方案，解决联邦学习中心节点作恶问题，进一步拓展去中心化 AI 安全边界。
Q&A
什么是联邦学习（FL）？
联邦学习（FL）是一种分布式的协作学习方法，允许多个数据所有者在不泄露数据隐私的情况下共同训练机器学习模型。
FLock系统是如何提高联邦学习的安全性的？
FLock系统通过点对点投票和奖惩机制，结合区块链和智能合约技术，提供了一个安全可靠的FL结构，能够防止恶意行为。
FLock系统如何抵御投毒攻击？
FLock系统通过区块链和代币经济学设计，采用多数投票机制进行模型聚合，从而抵御恶意节点的投毒攻击。
FLock的实验结果如何？
FLock的实验结果显示其在抵抗恶意节点方面的有效性和鲁棒性，诚实参与者的代币随着训练轮数增加而增加，恶意参与者的代币则减少。
FLock计划推出什么样的去中心化平台？
FLock计划推出去中心化AI模型训练平台，旨在简化模型训练和验证过程，吸引开发者和任务创建者。
FLock的机制受到哪些启发？
FLock的机制受到证明权益（PoS）区块链和桌面游戏《The Resistance》的启发，采用多数投票机制进行模型聚合。
