量子位
·
蚂蚁数科提出创新跨域微调框架ScaleOT，入选全球AI顶会AAAI 2025
💡
原文中文，约1200字，阅读约需3分钟。
📝
内容提要
蚂蚁数科的ScaleOT跨域微调框架在AAAI 2025大会上获认可，提升隐私保护50%，且不影响模型性能。该框架通过强化学习评估模型层的重要性，动态保留核心层并对原始层进行“打码”，有效平衡隐私与性能，适用于金融等行业。
🎯
关键要点
- 蚂蚁数科提出的ScaleOT跨域微调框架在AAAI 2025大会上获认可。
- ScaleOT框架在不影响模型性能的情况下，提升隐私保护效果50%。
- 该框架通过强化学习评估模型层的重要性，动态保留核心层并对原始层进行打码。
- ScaleOT显著降低了90%的算力消耗，为百亿级参数模型的跨域微调提供高效解决方案。
- 当前主流的跨域微调方法存在性能损失和高算力成本的问题。
- ScaleOT框架可以根据不同场景需求灵活组装，实现隐私强度可调节。
- 该算法已融入蚂蚁数科的摩斯大模型隐私保护产品中，并通过信通院测试。
❓
延伸问答
ScaleOT框架的主要创新点是什么？
ScaleOT框架通过强化学习评估模型层的重要性，动态保留核心层并对原始层进行打码，从而在不影响模型性能的情况下提升隐私保护效果50%。
ScaleOT框架如何解决隐私保护与模型性能之间的矛盾？
ScaleOT框架通过动态保留模型的核心层并对原始层打码，有效降低模型性能损耗，同时提升隐私保护强度。
ScaleOT框架在算力消耗方面的表现如何？
ScaleOT框架显著降低了90%的算力消耗，为百亿级参数模型的跨域微调提供了高效解决方案。
ScaleOT框架适用于哪些行业？
ScaleOT框架特别适用于金融等行业，解决数据和模型的隐私安全问题。
ScaleOT框架的隐私保护强度如何调节？
ScaleOT框架可以根据不同场景需求灵活组装，实现隐私强度的可调节。
ScaleOT框架的研究成果在AAAI 2025大会上获得了什么认可？
ScaleOT框架因其创新性入选了全球AI顶会AAAI 2025的口头报告论文。
➡️
