共现潜在语义向量空间模型及其语义核的构建与应用研究

The text data is currently the main form of the era of big data, and text data mining has become an important way of information access and knowledge discovery. Vector Space Model (VSM) provides a very good solution for information retrieval. with further research, there was a semantic vector space model (SVSM) and similar models, making retrieval and text mining results better. But still not enough: either a vector representation of semantic performance is not enough, or too costly to extract semantic, or high computational complexity. In view of this, I initially proposed co-occurrence latent semantic vector space model (CLSVSM). In the literature clustering, the model not only reduces the cost of semantic extraction, also got good results. However, the computational complexity is very high, and the model is not conductive to be used widly. Semantic kernel method can standardize the calculation process, reduce complexity, and can be extended applications, such as text information retrieval, classification, aggregation literature, machine learning and other fields. The project is planned on the basis of optimized CLAVSM, adopting semantic core idea, to build CLSVSM semantics kernal and applied to literature topic clustering to test its effectiveness.

文本数据是当前大数据的时代的主要形式，对文本数据的挖掘成为信息获取和知识发现的重要途径。向量空间模型（VSM）为信息检索提供了非常好的解决方法，随着研究的深入，又出现了语义向量空间模型（SVSM）及类似模型，使检索效果和文本挖掘的效果更好。但依然存在不足：或者是向量表示中语义表现不够，或者是语义提取成本过高，或者是计算复杂度高。鉴于此，本人初步提出了共现潜在语义向量空间模型（CLSVSM），在文献聚类应用中，不仅降低了语义提取成本，还得到了较好的效果。但计算复杂度还是很高，而且不利于推广。语义核方法可以规范计算过程，降低复杂度，并可以推广应用，比如文本信息检索、分类、文献聚合、机器学习等领域。本项目拟在优化CLAVSM的基础上，采用语义核的思想，构建CLSVSM的语义核并应用于文献主题聚类中以检验其效果。

大数据时代，基于文本向量表示的文本数据挖掘方法成为信息获取和知识发现的重要途径。共现潜在语义向量空间模型（CLSVSM）是一个新的文本表示模型，相对于向量空间模型（VSM），可以提高聚类精度，进而有效服务于信息检索等研究。本项目就新模型进行了以下研究：（一）从共现分布对模型解释，研究模型的广泛适应性，并对其改进与扩展：包括利用不同统计量（最大值，最小值，中位数，平均值）来构建模型，建立三元共现潜在语义向量空间模型（T - CLSVSM）；（二）对模型进行了降维研究，一方面建立截尾共现潜在语义向量空间模型（TCLSVSM），另一方面借助潜在语义分析的思想，基于CLSVSM构建了语义核函数（CLSVSM_K）。.建立模型之后，基于CNKI和WOS中的中英文文献数据，通过聚类实验来检验（采用纯度、熵值、F三个指标）模型的优劣。主要结论有：（1）模型对中英文文献聚类均有显著提高，而模型改进中所采用的四个统计量中，最大值模型的聚类效果最佳；（2）三元CLSVSM在中英文数据集下，聚类效果都优于CLSVSM；（3）基于截尾模型的聚类结果仅次于最大值模型，但仍比其余三个模型聚类效果要好，且显著降低了共现信息补充的运算成本与计算复杂度；（4）语义核模型的优势最明显，经过分解特征词空间大幅压缩，且聚类结果明显优于其他算法，此外，CLSVSM_K 在更大的数据集上降维效果比较明显，当保留 95%和 98%的信息量时，聚类效果不减，且聚类结果更加稳定。.本项目的研究为文本表示提供了新的选择，模型可操作性较强，可应用于语义挖掘和信息检索等的研究与实践。