对抗环境下生物特征识别检索的隐私安全问题研究

Core to large-scale biometric identification systems is near neighbor search of the most likely candidates from a large database based on their biometric similarity to the query. Recent vulnerability studies have shown that adversarial machine learning can compromise biometric recognition systems by exploiting the biometric similarity information. With ever-increasing data volume and access demand in the Internet era, both privacy and throughput are becoming increasingly important considerations for biometric identification. Existing methods are intrinsically difficult to meet the efficiency and scalability requirements of similarity search in the encrypted domain. In this project, we aim to facilitate information-theoretic privacy in the design of biometric indexing methods and achieve a better trade-off between privacy protection and the search performance in terms of accuracy and efficiency. The expected outcome will form an integral part of high-throughput, cost-effective and privacy-preserving biometric identification systems, and will contribute to the proliferation of technology application for biometric-based identity management in an adversarial networked environment.

生物特征识别作为一种结合物理与电子身份的自动标识方式已对人们生活和公共安全产生了深刻影响。随着应用面与数据量的不断扩大，运用网络计算平台可以方便用户访问、提高处理规模、降低计算成本。但这同时增加了信息泄露和恶意攻击的风险。本项目以生物特征识别系统为研究对象，以针对检索的智能攻击为核心，以机器学习敌手模型和隐私安全缺陷分析为基础，从基于信息理论的隐私安全保护框架出发，重点考察研究对抗环境下近似成员查询数据结构的信息泄露、隐蔽特征空间特性的相似性搜索、逆向重构模型分析与相应主动防御技术以及模式识别算法的安全量化评估机制等关键科学问题。其顺利开展将丰富隐私保护模式识别的理论研究、提高相似性检索机制的安全属性、健壮基于内容的信息查询系统在对抗环境下的应用，为生物特征识别在互联网+时代的推广提供有力的理论依据和技术支持。

机器学习算法是现代生物特征识别系统的核心。近年研究表明，基于机器学习尤其深度学习的模式识别系统容易受到各类智能攻击的影响导致敏感信息泄露和模型识别准确率显著下降。在本项目中，我们面向生物特征识别应用的安全与隐私保护需求，研究了多种分类器与图像检索算法在不同对抗环境下的模型鲁棒性能变化与数据隐私安全缺陷分析，并提出了一系列安全量化评估方法与模型主动防御机制，在半监督人脸识别的分类准确性、人脸伪造图像的通用检测算法、针对图像检索的高效黑盒攻击、深度神经网络的对抗样本检测与防御、集成模型的对抗鲁棒性能评估、分布式协同学习数据隐私问题等方面取得了较好的研究成果，丰富了智能攻击敌手模型，提高了分类器与图像检索机制的安全属性，健壮了不同目标模型在对抗环境下的主动防御机制，降低了以机器学习为核心的生物特征识别关键技术在复杂环境、极端条件下被恶意利用或滥用的潜在威胁，满足资助项目推动相关基础理论研究与应用技术发展的要求。