大数据下深度学习的隐私保护研究

Big data is of vital importance now. Deep learning is a powerful tool for data mining, however, it can easily breach users' privacy. Therefore, it is necessary to study privacy-preserving deep learning. In this project, we will carry out the following investigations. Firstly, by using generalization, dimensionality reduction, homomorphic encryption, etc., we will protect the outsourced data under the scenario of centralized data source. Secondly, under the scenario of decentralized data source, by utilizing local differential privacy, parameter sharing mechanism, etc., the local servers can obtain the final parameter collaboratively while preserving data privacy. Our solutions will be customizable based on the application scenario, privacy requirements, learning objects as well as the computation and communication capacity of the system, with the comprehensive consideration of data source, learning procedure, parameter results. Finally, in order to balance privacy and data utility, we will improve our proposed privacy-preserving mechanisms through game theory, convex optimization, investment theory, etc. The outcomes of this project will provide theory and technique support for deep learning.

大数据已经成为鲜明的时代特征。深度学习是挖掘大数据价值的有力工具，然而，对大数据的深度学习使得用户隐私更容易泄露，隐私保护问题亟待解决。本项目着眼于大数据下深度学习的隐私保护问题，展开以下研究：针对面向集中数据源的深度学习，应用泛化、降维、同态加密等，对外包到云平台上的数据进行保护；针对面向分布数据源的深度学习，应用本地差分隐私、参数共享机制等，在协作学习得到最终结果参数的同时，有效保护数据隐私。研究将综合考虑数据源、学习过程、结果参数等深度学习的各个环节，同时根据具体的应用场景、隐私保护需求、学习目标以及系统中各个实体所能提供的计算资源、通信资源等，设计深度学习隐私保护解决方案。在此基础上，运用博弈论、凸优化、投资理论等工具，对所提方案进行优化，使其达到隐私保护与数据可用性之间的合理均衡。本项目将为大数据背景下的深度学习提供理论基础和技术支撑，具有重要的理论意义和实用价值。

大数据下深度学习的隐私保护是一个非常重要的研究课题。本项目较系统地研究了深度学习的隐私保护问题，给出了一套可行、高效的解决方案。针对智慧医疗和智慧城市场景，提出了深度学习数据保护架构和基于差分隐私的具体方案，保护了数据隐私，并保障了数据可用性。对深度学习中的成员推理攻击进行了研究，提出了基于变分自编码器的防御机制。研究了深度学习中的对抗样本检测与防御机制。此外，还研究了深度学习在异常检测、推荐系统中的应用、位置隐私保护等问题。提出了基于深度学习的无线流量预测框架和异常检测方案、基于特征集成和对抗训练的异常用户检测方法、基于关系内容属性联合嵌入边预测、基于图神经网络的交通流量和蜂窝网络异常检测、个性化智能路由推荐、内容分发网络的攻击识别与防御方法、基于会话的推荐系统的多编码器框架和排序框架等。项目所得成果将为大数据下深度学习的隐私保护和应用提供重要的理论依据。