基于带有通配符序列模式和主题模型的短文本表示研究

It has unique value to study sequential pattern mining with wildcards in text representation and semantic analysis. It can make up the traditional model that does not consider the ordering of a term in the text and the semantic relations between terms. Aiming at the problems that short texts are sparse and the topics may change with the time going on when traditional models deal with short texts, short text representation based on sequential patterns combined with probabilistic topic model is studied in this project. First, we will design efficient online text sequential pattern mining algorithms with wildcards, and explore the computational complexity of the problem. Then, we study the online learning and inference mechanisms of hidden topics based on sequential patterns. Thirdly, we apply the sequential pattern based topic model to short text classification of Web news titles to improve the efficiency of the personalized news recommendation system. The correctness and validity of the theory and methods proposed are checked according to the system feedback and analysis of experiments. There are three goals of this project. One is to mine sequential patterns with wildcards that capture the semantic relations between terms. The second is to construct the sequential pattern based topic model that is also used in the short text classification system to optimize the parameter settings and perfect the proposed theory and methods. The third is to provide new ideas, theoretical methods and technical supports for the applications of sequential patterns on the domain of text mining.

带有通配符序列模式在文本表示和语义分析中具有独特的研究价值，可以弥补传统文本表示模型存在丢失文本顺序性和特征间语义关系等信息的问题。本课题针对传统文本表示模型在处理短文本时面临着稀疏性和文本主题可能会随时间迁移而动态发生变化等问题，从序列模式挖掘的角度，并结合概率主题模型，研究短文本的表示问题。研究内容包括：设计高效的带有通配符的在线文本序列模式挖掘算法，并探讨问题的计算复杂性；研究基于序列模式的文本主题模型在线学习和推理机制，并将其应用在面向新闻标题数据的短文本分类中，提高个性化新闻推荐系统的效率，根据系统反馈和实验结果的分析，检验所提理论与方法的正确性和有效性。本项目的最终目标是从文本序列中挖掘反映特征间语义关系的带有通配符序列模式，构建基于序列模式的文本主题模型，在短文本分类系统中不断优化参数设置，完善所提的理论与方法，为序列模式在文本挖掘领域的研究提供新的思路、理论方法和支撑。

带有通配符序列模式在文本表示和语义分析中具有独特的研究价值，可以弥补传统文本表示模型存在丢失文本顺序性和特征间语义关系等信息的问题。本课题针对传统文本表示模型在处理短文本时面临着稀疏性和文本主题可能会随时间迁移而动态发生变化等问题，从序列模式挖掘的角度，并结合概率主题模型，研究短文本的表示问题。研究内容包括：设计高效的带有通配符的在线文本序列模式挖掘算法，并探讨问题的计算复杂性；研究基于序列模式的文本主题模型在线学习和推理机制，并将其应用在面向新闻标题数据的短文本分类中，提高个性化新闻推荐系统的效率。. 序列模式挖掘研究方面，提出层次图结构在多项式时间和空间复杂度内表示指数量级模式的候选出现，提高了挖掘的时间效率和解的完备性。针对文本序列，通过一遍扫描获取出现次数超过给定支持度阈值的频繁词语，并记录相应的出现位置，根据词语的出现位置，动态确定相邻项之间的间隔约束，极大地提高了模式挖掘的搜索效率。. 主题模型研究方面，提出一种新的主题模型表示方法，基于长文档是由多个主题组成和短文档仅有一个主题的假设，对长文本和短文本分别采用不同的推理。 .基于序列模式的文本表示研究方面，将挖掘得到带有通配符序列模式用于抽取文档关键词。开发个性化新闻网页推荐与总结系统，根据用户浏览记录，自动推荐用户感兴趣的新闻。针对社交网络中隐式事件突发性，引入关键词特征，将不同时间区间与不同关键词特征绑定，实现对隐式事件突发性的准确识别。 . 在本项目实施过程中，课题组取得了较好的阶段性成果。受本课题资助，已发表SCI期刊论文3篇，EI期刊论文1篇，国际会议论文1篇，CSCD核心期刊论文1篇。本项目研究成果具有三方面意义：1）从文本序列中挖掘带有通配符序列模式可以反映词语间的语义关系的；2）构建基于序列模式的主题模型可以有效的表示短文本信息；3）所提的理论与方法，为序列模式在文本挖掘领域的研究提供新的思路、理论方法和支撑。