深度学习即服务场景下对抗不可信服务主体的安全研究

As a new machine learning approach, deep learning has been studied and applied widely in both academia and industry. Meanwhile, more and more internet services including deep learning, are heavily depending on big data and personal information since we are living in mobile internet era and big data era. There are lots of deep learning based services emerging in our daily life recently. However, many serious issues are also revealed during the applications of deep learning services. One of the most important issues is that any untrusted deep learning service provider could get user’s confidential information easily. This will violate user’s privacy seriously. Besides, untrusted service providers could also fraud users by claiming some deep learning algorithm applied which the service provider has never served the user. These two important security issues have not been solved efficiently. In this research project, we will propose one or more feasible solutions to protect deep learning service user’s privacy against untrusted servers. On the other side, we will propose one or more verifiable computing mechanisms for deep learning service. In the end of this project, we will build a secure deep learning service platform in client-server model based on our research proposals.

深度学习，作为一种新型的机器学习模式，在科研领域和工业界得到了广泛的研究和应用。同时，处在移动互联网和大数据时代，越来越多的互联网服务开始注重以人为本，以数据为本。深度学习技术也不例外，近些年越来越多深度学习服务出现在人们的生活中，成为工作生活中不可或缺的一部分。然而，随着深度学习服务的广泛应用，很多严重的问题逐渐被披露出来。其中较为严峻的一个问题便是不可信任的深度学习服务提供主体，可以轻易获取互联网用户的隐私数据，严重侵害了用户的隐私数据安全。另一方面，不可信任的服务提供主体也可能存在欺骗用户，不履行服务承诺的行为。针对不可信服务主体的上述问题，目前尚未存在有效的安全保护方案。本项目拟利用团队最新的研究发现，提出至少一种用户隐私数据安全的保护方案，并设计至少一种适用于深度学习服务的可验证计算方案，并借助科研成果的整合与转化，实现一个客户-服务器模式的安全深度学习服务平台。

以深度学习服务为基础的网络应用和软件系统层出不穷，在科研领域和工业生产中得到了广泛的关注并创造了新的数字经济增长点。然而，在网络空间安全问题日趋凸显的当下，深度学习服务及其应用和软件系统面临着巨大的安全威胁，一类是网络空间本身固有的安全问题，第二类是深度学习算法自身的隐私数据泄露问题，而第三类是将网络空间安全与深度学习技术结合后产生的新的用户数据安全问题。项目的主要研究内容是深入研究上述三类问题，紧密结合国内目前深度学习在生产生活中的实际应用和需求，研究适用深度学习即服务场景下的安全保护方案，解决具体的关键技术问题：（1）将网络空间安全保护技术与深度学习算法有机地结合，利用差分隐私技术设计能够保障隐私数据安全的深度神经网络学习算法，并且保证完成学习的深度模型可以满足在所有查询函数重复查询相同数据集的情况下，也不会泄露用户的数据隐私信息；（2）在多方参与的联合深度学习过程中，分析多方计算用户参与的深度学习中用户隐私泄露问题的成因并形成相应的理论结果，解决恶意用户使用生成对抗网络在多方合作的深度学习中制造错误中间结果及窃取隐私数据的问题；（3）在用户本地设备资源受限的条件下，研究面向资源受限的深度学习即服务用户的安全计算方案，将计算资源、存储资源、网络通信资源和深度学习的性能以及用户隐私的损耗形式化为可求解的优化问题，并通过启发式方法取得近似最优的资源利用。在项目研究中，团队取得了重要的研究成果，主要包括在深度学习即服务场景中用于服务提供商的深度神经网络模型安全发布方案，用于多方参与的联合学习参与者的安全模型聚合方案，用于深度学习即服务用户的隐私数据保护的计算任务外包方案。上述成果在公开数据集上进行了对比测试，取得的测试效果优于此前已有方案，并通过同行评审后发表于ICDCS、ESORICS、IWQoS等国际学术会议和IEEE TPDS、IEEE TDSC、IEEE TMC等国际学术期刊。