基于深度学习的函数型数据分析与处理

With the development of science and technology, functional data is becoming more and more important in the field of statistics, economics and engineering. Because of the infinite dimension property, many traditional methods become invalid when dealing with functional data. Deep learning has achieved remarkable success in prediction problems based on observed data. The aim of this project is to integrate deep learning and functional data analysis and processing. That is, to research some fundamental issues of functional data, including principal component estimation, SVD decomposition and sparse algorithm for regression function based on deep neural network, and to design an algorithm for space-time functional data by extracting features from the video data (one of the most important functional data types) in time domain and space domain. Based on the fruitful results of function theory and statistical learning theory, the consistency and learning rate of the proposed algorithm will be established, and the relationship between deep learning and statistical learning theory will be explored by explaining the theoretical mechanism of deep learning, which can bring eyes to theoretical analysis of deep learning.

随着科学技术的发展，函数型数据在统计，经济学和工程技术领域显示出越来越重要地位。因为无穷维特性，很多传统方法在分析与处理函数型数据时受到阻碍。深度学习在基于数据的预测上取得了举世瞩目的成功。本项目旨在融合深度学习与函数型数据分析与处理。利用深度神经网络研究函数型数据的一些根本性问题，包括构造估计主成分，SVD分解和回归函数的稀疏算法等，并对视频数据（函数型数据最重要类型之一）在时间域和空间域进行特征提取，设计基于函数型数据分析的时-空特征融合的算法。借鉴函数论和统计学习理论的丰硕成果，建立所提算法的相容性以及学习率。进而探索深度学习与统计学习理论之间的联系，阐明深度学习的理论机制，为深度学习的理论分析提供新方法。

我们按照计划执行，基本完成了研究目标。特别在以下几个方面取得了突出成果，处于国际先进水平。构造了函数型神经网络，引入到函数型回归估计中，与已有文献不同的是，我们激活函数不是无穷阶可微的。我们利用函数型神经网络进行函数型回归估计，为函数型数据的学习算法提供新途径；提出了基于小波框架的函数型数据恢复算法，显示出三个自适应性（对数据的局部变化，函数光滑度和观察点密度）；引入了二阶矩空间中函数型降秩回归模型，函数型线性预测模型，提出了估计算法。该模型将经典的（随机）函数内积系数推广到随机变量系数，从而包含了点影响这个重要情形；建立了具有先验支集信息的数据恢复条件的RIP完全刻画，填补了已有恢复条件的空缺，同时还提供了相比于已有结果更好的恢复性能；在函数型数据应用方面，对医学图像（二元函数型数据）开展了自动检测研究，结合深度学习思想和方法，在全球最大规模的青光眼眼底照数据上，开发了“分层集成的深度学习系统”的青光眼诊断平台深度学习诊断算法，在国际上处于领先水平。. 发表论文22篇，不少成果发表在信息论顶刊IEEE Trans. Information Theory， 应用数学顶刊SIAM J. Imaging Sciences和Nature合作期刊 Nature Partner Journals Digital Medicine上，有的发表在权威统计和数学期刊J. Multivariate Analysis, J. Approximation Theory, Analysis and Application上。这些成果为函数型数据分析开辟了新途径，为数据的稀疏表示和稀疏恢复提供新方法。在应用方面，开发的基于深度学习的青光眼检测平台已经在中日友好医院初步实现临床应用。在临床评估中，该系统显著提升了眼科医生的诊断准确性，为AI辅助眼科诊断的临床实用带来了曙光。. 参与研究的博士生十余名，硕士生15名，其中毕业博士生6名，毕业硕士研究生10名。按照计划在研究过程中培养中物院参研人员。