使用 zkSNARKs 进行机器学习模型的可验证评估
内容提要
本文综述基于零知识证明的可验证机器学习技术，分析不同场景的可验证性问题，分类现有方法，并探讨挑战与未来方向。相关研究涵盖模型公平性认证与审计、深度学习训练过程证明、联邦学习模型所有权验证、语言模型能力评估、训练数据证明及深度概率模型验证等。
延伸解读
可验证机器学习的问题分类
文章指出，不同机器学习场景存在不同的可验证性问题，例如模型公平性认证、训练过程证明、联邦学习模型所有权验证、语言模型能力评估、训练数据证明及深度概率模型验证等。这些场景对零知识证明的要求各异，需要针对性地设计协议。
现有技术方法概览
文章分类了现有工作，包括基于交互和隐私保护测试的公平性认证框架、Fairness as a Service、zkDL、FedZKP、哈希标记协议、Proof-of-Training-Data、二进制线性树承诺的所有权保护模型以及深度概率模型验证框架等。这些方法利用零知识证明在保护隐私的同时实现可验证性。
关键挑战与未来方向
文章讨论了ZKP-VML领域面临的关键挑战和未来方向，但未具体列出。读者可关注如何平衡证明效率与隐私保护、跨场景通用性以及实际部署的可行性等问题。
Q&A
什么是基于零知识证明的可验证机器学习（ZKP-VML）？
ZKP-VML 是指利用零知识证明技术来验证机器学习模型相关属性的方法。它允许在不泄露敏感数据或模型参数的情况下，证明模型训练过程、公平性、所有权等属性的正确性。
ZKP-VML 可以验证机器学习中的哪些具体问题？
ZKP-VML 可以验证多种问题，包括模型公平性认证与审计、深度学习训练过程证明、联邦学习模型所有权验证、语言模型能力评估、训练数据证明以及深度概率模型验证等。
如何利用零知识证明验证机器学习模型的公平性？
可以通过 Fairness as a Service (FaaS) 等框架，使用安全、可验证且保护隐私的协议来计算和验证任何机器学习模型的公平性。这些框架利用零知识证明和多种公平性指标，在加密保护数据和结果隐私的同时，对模型进行公平性审计。
zkDL 方法在深度学习训练过程中起到了什么作用？
zkDL 方法通过零知识证明有效实现了深度学习训练过程的证明，在保护数据和模型参数隐私的同时，能够验证训练过程的正确性。
FedZKP 如何保护联邦学习模型的所有权？
FedZKP 是一种可证明安全的模型所有权验证方案，它使用零知识证明来保护联邦模型的隐私不被抄袭或滥用。通过理论分析和实证研究，证明了 FedZKP 的安全性和鲁棒性。
Proof-of-Training-Data 是什么？它如何工作？
Proof-of-Training-Data 是一种概念，包含一些协议，使模型训练者能够向验证者证明所产生的一组模型权重的训练数据。它研究了与当前大型模型训练程序兼容的有效验证策略。
