几类高维随机矩阵模型极值特征值的渐近性质研究

High dimensional random matrix theory is a hot topic in mathematics, which has wide applications in physics、finance、statistics、wireless communications and many other fields. The project is devoted to studying the asymptotic behaviors of extreme eigenvalues of several random matrix models (sample covariance matrix model with dimension goes to infinity but is small order of sample size, sample covariance matrix with nonnull population covariance matrix and deformed Gaussian unitary ensembles). The common point of these models is there exist phase transitions and the asymptotic distributions of extrem eigenvalues are not same under different phases. We consider the asymptotic behaviors, especially the large and moderate deviations, for the extreme eigenvalues in different phases by using the skill of determinantal point process、Fredholm operator theory and the steep decent method. Through this project, we can show the convergence speed of extreme eigenvalues in different phases, which will enrich and perfect the theory research on extreme eigenvalues of random matrices.

高维随机矩阵理论是目前数学研究领域中一个比较热门的方向，其在物理、金融、统计、无线通讯等领域有着广泛的应用。本项目致力于研究几个有关高维随机矩阵模型（维数趋于无穷但远远小于样本量时的样本协方差矩阵，总体协方差矩阵为非单位阵时的样本协方差矩阵和变形的高斯酉系综矩阵）极值特征值的渐近性质。这几个模型共同的特点是都伴随有相变，极值特征值在不同的相变下具有不同的极限分布类型。运用行列式点过程、Fredholm 算子理论以及最速下降法的分析技巧，我们拟探讨这几个随机矩阵模型极值特征值在不同相变情形下的渐近行为，特别是对应的大偏差和中偏差原理。通过本项目的研究，可以揭示在不同相变情形下极值特征值的收敛速度，进一步丰富和完善随机矩阵极值特征值的极限理论研究。

高维随机矩阵理论是目前数学研究领域中一个比较热门的方向，其在物理、金融、统计、无线通讯等领域有着广泛的应用。本项目主要考虑了几类高维随机矩阵模型极值特征值的渐近行为。（A) 通过渐近分析技巧，考虑了beta-Laguerre系综对应的矩阵模型在一定的条件下（当参数限制范围不同时，极值特征值的极限分布类型不同，对应着相变现象），对应最大、最小特征值的中偏差原理；我们发现其最大、最小特征值的尾部和高斯分布的尾部相同。这与传统高维框架下，极值特征值收敛到Tracy Widom分布的尾部不同，这暗示可能存在相变行为，我们的研究结果发表在随机矩阵领域的专业期刊Random Matrices: Theory and Application上。（B）在总体协方差矩阵是单位阵时，若p/n趋于一个正数时，其中p是总体维数，n是样本容量, 那么在n趋于无穷时对应的样本协方差矩阵的最大特征值收敛到Tracy Widom分布。 本项目中，我们考虑边界情形, 即p/n趋于零时，对应极值特征值的渐近分布的尾部情形。我们建立了相应的中偏差原理，相关结果发表在期刊Journal of Theoretical Probability。 我们的结果揭示，在边界情形，极值特征值的尾部与高斯分布的尾部相同，而非非边界情形对应的Tracy Widom型尾部，这表明在边界情形时，很有可能并非是Tracy Widom型分布， 存在相变的可能。（C）我们在项目研究过程中曾考虑到总体协方差矩阵的估计所需最小样本容量的问题，由此我们发展了一个集估计和检验一体的一般性方法。我们针对海量数据，利用分块的思想，分块处理，再结合经验似然的方法，给出了相应的统计检验，相关结果发表在Journal of Multivariate Analysis上。 这一方法具有一般性，可以解决很多海量数据框架下的统计问题的检验和估计问题。