实时流数据变系数多分类模型研究

In the age of big data, a new type of data is emerging: realtime streaming data. It's a big, high dimensional, sparse, realtime, unlimited, continuous, ordered data sequence. Study on such kind of data has become a hot topic in the area of data mining and machine learning. Varying coefficient model in mathematical statistics is a very good tool to study such kind of data. It can describe the relationship between covariates and time, expplain things' evolution patterns. Current research results are limited to theories and algorithms in small data/small world. It can't meet the need of big data. Dased on the traditional study on the varying coefficient model,this project will study on the multicategory classification methods for realtime streaming data. The new theoretical framework is a combination of mathematical statistics and information science. It include the fundamental model, stability analysis, online learning and distributed realtime computing. Finally, we will give the empirical data analyses for two real world big data.

在当前的大数据时代背景下，很多领域产生了一种新的数据形态：实时流数据。它是一个海量、高维、稀疏、实时、无限、连续、有序的数据序列。针对实时流数据的研究成为近年来机器学习与知识发现领域的热点问题。数理统计学中的变系数模型是研究该数据类型的一个很好的工具，能够详细刻画协变量与时间变量的相互关系，解释事物随时间演化的规律。但现有的研究成果还基本上局限在小数据/小世界的理论和算法，不能真正满足大数据分析的需要。本项目将在梳理传统变系数模型研究成果的基础上，主要针对实时流数据的多分类问题，从基础模型的构建、模型的稳定性、模型的在线学习与分布式实时算法开发等角度研究大数据时代背景下的数理统计学与信息科学相融合的分析实时流数据的变系数多分类模型的全新理论。并结合两个大数据应用实例提出高效、具有广泛社会应用前景与价值的操作流程。

本项目主要研究针对实时流数据的多分类变系数模型。主要研究内容包括，基础模型的构建、探讨模型的稳定性、开发模型的在线求解算法。我们在理论层面进行了深入的探讨，提出了针对流数据的变系数支持向量机模型。针对类别可以无限扩大的选择问题（也是一种分类模型），我们提出了有约束的选择模型。我们将基于估计稳定性的调节参数选择方法ESCV创新性的引入变系数模型的研究。模拟研究和实际数据分析都表明新的方法大大增加了变系数模型的稳定性。最后我们重点研究求解算法的问题，提出了加强多分类支持向量机模型的路径解求解算法，该方法大大提高模型的求解效率和时间。此外，我们借鉴回归分析的思想，提出基于回归的快速稀疏多分类模型，可以快速求解大型多分类问题。除了方法的理论研究，本项目所提方法在大型文本数据以及互联网企业用户数据等方面都取得了非常好的实际效果。