模型被投毒攻击，如今有了新的安全手段，还被AI顶刊接收
💡
原文中文，约3700字，阅读约需9分钟。
📝
内容提要
联邦学习（FL）是一种分布式的协作学习方法，允许多个数据所有者在不泄露数据隐私的情况下协作训练机器学习模型。FLock系统通过点对点投票和奖惩机制，结合区块链和智能合约技术，提供了安全可靠的FL系统结构，能够防止恶意行为。实证分析证明了FLock方法的有效性和鲁棒性。
🎯
关键要点
-
联邦学习（FL）是一种分布式的协作学习方法，允许多个数据所有者在不泄露数据隐私的情况下协作训练机器学习模型。
-
FLock系统通过点对点投票和奖惩机制，结合区块链和智能合约技术，提供了安全可靠的FL系统结构，能够防止恶意行为。
-
现有的FL方法依赖于集中式服务器进行模型聚合，导致单点故障，容易受到恶意攻击。
-
FLock系统通过区块链和代币经济学设计，能够抵御恶意节点攻击，尤其是投毒攻击。
-
FLock的机制受到证明权益（PoS）区块链和桌面游戏《The Resistance》的启发，采用多数投票机制进行模型聚合。
-
FLock的实验结果显示其在抵抗恶意节点方面的有效性和鲁棒性，诚实参与者的代币随着训练轮数增加而增加，恶意参与者的代币则减少。
-
FLock计划推出去中心化AI模型训练平台，旨在简化模型训练和验证过程，吸引开发者和任务创建者。
-
FLock正在探索更多维度的去中心化AI安全解决方案，如利用零知识证明处理FL中心节点作恶的问题。
-
FLock.io公司最近完成了600万美元的种子轮融资，致力于将其技术投入工程实践。
➡️
