复数及四元数域卷积神经网络的构造方法及其应用研究

Real domain convolutional neural network (CNN) is widely used in the field of image processing because of its excellent performance. However, real domain CNN has many parameters and high computational complexity. This project focuses on how to design a CNN with less model parameters and lower computational complexity when the classification rate keeps high. The project combines the traditional methods (fractional algebra theory, quaternion algebra theory, graph transform theory, and low rank tensor decomposition method, etc.) with the complex domain and quaternion domain CNNs. The project places emphasis on the following four problems: (1) the construction and application of compressed complex domain CNN; (2) the construction and application of hybrid complex domain CNN; (3) the construction and application of compressed quaternion domain CNN; (4) the construction and application of hybrid quaternion domain CNN. The goal of the project is to establish research systems of complex domain and quaternion domain CNNs which are in parallel with real domain CNN. The project may break through some limitations of current real domain CNN and further improve the image processing capability of CNN.

实数域卷积神经网络(Convolutional neural network: CNN)因为其优秀的性能被广泛应用于图像处理领域，但是实数域CNN存在模型参数多、计算复杂度高等局限性。本项目围绕“在保证图像高分类正确率的前提下，如何设计模型参数更少、计算复杂度更低的CNN”这一核心问题而展开，通过传统方法(分数阶代数理论、四元数代数理论、图变换理论、低秩张量分解方法等)与复数及四元数域卷积神经网络的融合，重点研究4个方面的内容：（1）压缩型复数域CNN的构造方法及其应用研究；（2）混合型复数域CNN的构造方法及其应用研究；（3）压缩型四元数域CNN的构造方法及其应用研究；（4）混合型四元数域CNN的构造方法及其应用研究。实现“建立与实数域CNN研究体系平行的比较完善的复数及四元数域CNN研究体系”这一目标，从而突破目前实数域CNN存在的一些局限性，进一步提高卷积神经网络的图像处理能力。

本项目利用压缩和混合两种策略尝试解决如何在更广义的复数域以及四元数域构造更具表征能力的卷积网络，并且将其更好地应用于信号与图像处理领域。主要研究内容包括：(1)单层复数及四元数卷积网络的构造及其应用。构造的网络包括四元数离散分数阶Krawtchouk变换、改进的广义极性谐波变换、图变换等，应用领域包括图像加密、图像水印、图像描述、图像去噪等；(2)两层复数及四元数卷积网络的构造及其应用。构造的网络包括分数阶生成散射网络、二维主成分分析网络等，应用领域包括图像生成、图像分类等；(3)多层复数及四元数卷积网络的构造及其应用。构造的网络包括深度八元数网络、深度先验解剖密集偏置网络、海扶网络、图自构建和融合网络等，应用领域包括图像分类、图像分割、生物医学信号处理、生物医学图像处理等。项目取得了一些具有创新意义并且有一定影响力的研究成果：发表SCI期刊论文16篇和EI会议论文5篇，相关论文被GoogleScholar他引100余次，引文作者包括美国DeepMind公司Karen Simonyan(著名的VGGNet的发明者)、香港大学Yizhou Yu教授(IEEE/ACM Fellow)等；申请13项国家发明专利，其中有2项已经获得授权。代表性成果分数阶小波散射网络在南京福怡科技发展股份有限公司的智能数字病理全片扫描分析系统(型号:万特IDP-III-D)进行了验证和测试。代表性成果超复数图卷积网络在睿愈(南京)数字医疗科技有限公司的心血管疾病全病程管理平台和糖尿病全病程管理平台上得到了验证和测试。项目负责人受邀请在第20届心脏血运重建暨急性冠脉综合征诊治进展研讨会对超复数图卷积网络进行分会场报告。本项目丰富了复数及四元数卷积网络研究体系，并且对复数及四元数卷积网络的潜在应用进行了有益的探索。