基于惩罚似然的变量选择方法及其在高维数据模型中的应用

By using econometrics theory, probability theory, mathematical statistics and the data processing method, based on penalized likelihood function method the project group will study large sample properties and numerical simulation methods of several kinds of penalized likelihood estimation method for high-dimensional model. Moreover, we will apply estimation methods in cross section data, time series data and panel data, and strive to obtain good results. This project will focus on whether the estimator enjoys Oracle properties, that is, the estimator can correctly select covariates with nonzero coefficients with probability converging to one and the estimator of nonzero coefficients have the same asymptotic distribution. The research contents include adaptive bridge estimation method and its application in ultra high- dimensional cross section data, LAD concave penalty method, M-estimation method and its application in high-dimensional time series data, double group variable selection method and its application in high dimensional panel data. This project is not limited to solve a problem, but pay more attention to new ideas and new methods. The research content involved is the important problem in the field of econometrics and statistics theory with a certain degree of difficulty and depth, and has a higher theoretical value and broad application prospect. The research results of this project not only can enrich the econometric and statistical theory, but also will broaden the research content of variable selection.

项目组以目前已经掌握的计量经济学理论、概率论、数理统计、数据处理方法为基础，基于惩罚似然函数方法，研究高维数据模型下几类惩罚似然估计方法的大样本性质及其数值实现方法，同时将估计方法应用于横截面数据、时间序列数据以及面板数据，力争获得好的结果。本项目研究重点在于，证明估计量是否具有Oracle性质，包括以概率趋于1正确地选择模型以及估计量渐近地服从正态分布。研究内容包括自适应桥估计方法及其在超高维横截面数据中的应用，LAD凹惩罚方法、M-估计方法及其在高维时间序列数据中的应用，双层组变量选择方法及其在高维面板数据中的应用等。本项目并不局限于某一个问题的解决，更加关注和探索解决问题的新思路和新方法。本课题研究内容均是计量经济学领域和统计理论中的重要问题，具有一定的难度和深度，有较高的理论价值和广泛的应用前景。本项目的研究成果不仅会丰富计量经济学和统计理论，也将拓宽变量选择的研究内容。

高维数据分析理论，一般是指变量维数随着样本量趋于无穷的假设下的统计理论，在经典的统计和计量理论基础上作的进一步推广和延伸，几乎涉及到了统计分析和计量分析的各个领域，成为近年来的热点问题。当变量维数随着样本量一起趋于无穷时，传统的方法和理论无法解决，我们必须发展新的理论来满足高维数据的分析。本项目组基于惩罚似然函数方法，研究高维数据模型下几类惩罚似然估计方法的大样本性质及其数值实现方法，同时将估计方法应用于横截面数据、时间序列数据以及面板数据，以期获得好的结果。. 按照研究进度安排开展了高维数据模型的变量选择方法、均值回归随机波动模型、超高维数据模型的变量选择方法以及纵向部分线性变系数模型的变量选择工作。1.研究了高维数据线性回归模型的M-估计方法，利用M-估计方法将最小二乘、最小一乘、分位数回归以及Huber回归统一到一般性框架下，讨论了惩罚项为局部线性逼近情形下的估计量的性质。2.关注具有状态切换的均值回归随机波动模型。考虑了一个具有状态切换的均值回归随机波动模型，在充分性条件下建立了该方程全局正解的存在性、p阶矩渐近有界性、正常返性以及平稳分布的存在性定理。3.研究了超高维情形下线性回归模型的变量选择和参数估计问题，证明了提出的惩罚似然M-估计量具有良好的大样本性质，利用向后回归与局部线性回归相结合的方法进行变量选择和参数估计，数值模拟表现较好。在超高维情形下，我们提出的一般性方法在变量选择和参数估计方面具有较好的稳健性和有效性。4.考虑了纵向部分线性变系数EV模型的估计和模型选择，提出了基于二次推断函数的双修正惩罚二次推断函数方法。