自然最近邻居的特性分析与应用研究

The concept and the algorithms about the Nearest Neighbor are a foundation scientific issue in many research fields such as Data Mining, Pattern Recognition, Image Processing, and Intelligent Recommendation. This project will explore courageously creative method on this issue, which has important academic significances and application values. The project focuses on a new concept called as "Natural Nearest Neighbor (3N)", which is a scale-free nearest neighbor for trying to solve more effectively the open problem of "selection of neighborhood size" in the manifold learning algorithms and the hot problem of "similarity measurement of dataset space structure" in the clustering learning algorithms. Based on a new graph tool called as "Adaptive Natural Nearest Neighborhood Graph (A3NG)" constructed by relationship among natural neighbors, we strive to propose new manifold learning algorithms without parameter and prove their validity in application fields. .The main research contents are the theory modeling for 3N, the neighbor searching algorithm, the characteristics analysis of A3NG, the design and implementation of 3N Classifier, and the information entropy of 3N distribution. The goals of project achieve creativity research results in publishing 10 scientific papers, applying 2-3 national patents for invention of China, and fostering 3-4 PhD students.

最近邻居的概念及邻居搜索算法是数据挖掘、模式识别、图像处理、智能推荐等领域的一个基础科学问题，本项目围绕这一基础问题，探索新的思维方法，其研究具有十分重要的学术意义和应用价值。项目重点针对基于最近邻居的流形学习和聚类学习算法中"如何选择邻域参数?"这一公开问题和"如何度量空间结构的相似性？"等热点问题，通过引入新的概念"自然最近邻居"，构造新的工具"自适应最近邻域图"，力图改变传统的依赖于参数形式的k最近邻居或ε最近邻域的格局，探索出新的解决方案。.项目重点研究内容包括：自然最近邻居的理论模型、自然最近邻居的高效搜索算法、自然最近邻居和自适应最近邻域图的特征分析、自然最近邻居分类器设计、自然最近邻居分布的信息熵评估等。项目力争取得原创性高水平应用基础研究成果，申请发明专利2-3项，发表高水平论文10篇，培养博士3-4人。

最近邻居的概念及和邻居搜索算法是数据挖掘、离群检测、聚类分析、智能推荐等领域的一个基础科学问题，本项目围绕这一基础问题，通过引入新的概念-自然最近邻居，构造新的图形工具-自然邻居邻域图，力图改变传统的依赖于参数的k最近邻居的格局，探索新的解决方案。研究工作具有十分重要的学术意义和应用价值。项目取得的研究成果如下：. 1）提出一种描述数据点依赖关系的邻居概念-自然最近邻居，并构建了完整的自然邻居知识体系，包括自然邻居特征值、自然稳定状态、自然邻居邻域图、加权自然邻居邻域图、饱和自然邻居邻域图、小值自然邻居邻域图。 . 2）证明了自然邻居关系的不变性、自然邻居特征值的稳定性、自然邻居对象的稳定性。提出了自适应的自然邻居高效搜索算法和自然邻居邻域图的生成模型和算法。与k-最近邻居思想相比，自然邻居思想的突出优势是在邻居搜索及应用时不需要设置邻域参数。. 3）提出了基于自然邻居的离群检测算法，基于自然邻域图的数据挖掘算法，基于自然邻居的层次聚类算法，基于自然邻居的无参聚类算法等多种高效算法。大量对比实验表明这些算法不仅没有邻域参数，而且在性能上具有明显优势。. 4）提出了基于大规模高维数据压缩的协同过滤算法，提出了面向大数据应用的服务计算系统QoS预测模型与资源优化算法。. 基于以上研究成果，发表标注本项目资助的学术论文21篇。其中，SCI检索论文14篇，EI检索论文6篇，境外国际会议宣读论文4篇。发表论文的期刊包括IEEE TRANS INDUSTRIAL INFORMATICS、IEEE TRANS NEURAL NETWORKS AND LEARNING SYSTEMS、IEEE TRANS AUTOMATION SCIENCE AND ENGINEERING、IEEE TRANS ON SYSTEMS MAN CYBERNETICS-SYSTEMS、KNOWLEDGE-BASED SYSTEMS、SCIENTIFIC REPORTS、NEUROCOMPUTING、PATTERN RECOGNITION LETTERS、CLUSTER COMPUTING等重要国际期刊。朱庆生教授作为大会主席承办IEEE国际会议ITAIC 2014；申请国家发明专利5项，其中已获权3项；培养博士生4人，硕士生8人。