机器学习的数据和模型安全保护及测评

Recently, machine learning has been rapidly developed and widely used. However, the traditional security technology still cannot effectively solve the privacy problem of learning algorithms and user data, which results in leakage of sensitive user data and theft of valuable military/commercial algorithms, and thus seriously hinders the application of machine learning. This project focuses on two major contradictions: privacy protection vs. complexity of function expression, and privacy protection vs. accuracy of machine learning results. Combining cryptography and privacy protection technologies, this project aims to propose secure, efficient, and accurate privacy protection solutions for several typical machine learning algorithms. Firstly, we propose a unified privacy protection model for machine learnings, and propose the corresponding cryptographic security model. Secondly, through optimizing the prediction function, constructing batch homomorphic encryptions, and using universal security (UC) technique and QANIZK technique, we construct secure machine learning algorithms that guarantees efficiency and accuracy. Finally, we establish a unified and comprehensive evaluation system for safety assessment. By this project, we aim to solve the above key privacy protection challenges.

近年来，机器学习技术得到快速发展和广泛应用。然而，传统安全方法还无法有效解决机器学习应用中数据和算法模型的安全保护问题，导致用户敏感数据的泄露和有价值的军事/商业算法受到窃取，严重阻碍了机器学习的推广应用。本项目主要围绕算法的安全保护目标与算法的函数表达复杂性、学习结果精确性两大矛盾展开研究，结合密码学和隐私保护安全技术，针对几类典型的机器学习算法，构造安全、高效、精确的机器学习算法保护方案。具体研究内容包括：首先，研究机器学习隐私保护的安全模型，提出相应的模型框架理论；其次，通过优化预测函数表达，以设计的批同态加密为核心，利用通用可组合（UC）安全技术、准自适应的非交互式零知识证明（QANIZK）等关键密码技术，构造具体的安全学习算法，并保障其精度与效率；最后，建立统一完善的测评体系进行安全测评。通过本项目的研究，解决上述机器学习中的隐私安全问题。

机器学习算法形式多样，广泛地应用于各类复杂环境。本课题结合密码学和隐私保护安全技术，针对几类典型的机器学习算法，构造安全、高效、精确的机器学习算法保护方案，并建立测评体系进行安全测评。具体做了如下研究工作：（1）对机器学习模型和数据的隐私安全性进行研究。首先构造了一批核心密码工具，然后以这些密码工具为基础，进行机器学习算法和数据的隐私保护。构造了可以保护最小风险贝叶斯算法、支持向量机等机器学习算法的隐私保护方案；并建立测评体系对这些方案进行了安全测评。（2）针对机器学习算法的安全性与健壮性，以及性能优化进行研究。在保护模型和数据隐私安全性的基础上，我们更进一步研究了机器学习算法在更复杂环境下如何保证安全性及进行性能优化。具体针对机器学习的对抗样本安全性、物联网环境下的隐私保护等安全问题，设计了相应的安全保护方案。本项目的研究成果将为机器学习在各行业中安全地推广应用做出贡献。