基于深度神经网络的个性化推荐系统

Recommender system is one of the most important research areas in data mining in recent years. It provides a valuable solution for the information explosion problem. Although it has attracted substantial research work, there still exist several limitations to be solved, including the modeling of heterogeneous information, capturing the sequential behavior patterns, cold-start problem and etc. On the other hand, deep neural network have developed significantly in image processing, natural language understanding and some other domains during recent 5 years. The advantage of its ability to capture high-level relations and employ large scale data is proved. It may provide an opportunity to further improve the existing recommender systems. However, there still exist obstacles when applying deep neural network on recommender systems, e.g. current deep neural networks fail to provide promising performance when applying on discrete categorical data. In this proposal, we aim at these scientific problems and extend deep neural network for a better recommender system, proposing a novel approach to tackle the personalized recommendation problem. This work would further strengthen the deep neural network for more data structures and scenarios, and then improve the quality of personalized recommender systems.

推荐系统是数据挖掘领域中十分重要研究领域，对于互联网上日益严重的“信息过载”问题提供了有价值的解决方案，吸引了大量研究工作。然而，现阶段的推荐系统还存在着一些局限性，包括多种异构信息的建模、序列化行为建模、冷启动问题等多个方面。另一方面，深度神经网络在图像、语音等领域得到了迅速的发展，其模型优越性被多次得到证明。深度神经网络对于大规模数据的建模能力以及对高阶关系的挖掘能力在推荐系统中也将带来巨大的优势，提供了推荐系统算法中潜在的一大突破口。但由于现阶段深度神经网络在多种数据类型下的局限性，在输入数据较为复杂的推荐系统中还存在着许多待解决的科学问题。本课题中，我们将针对深度神经网络在此类问题中的局限性进行研究，探索如何将深度神经网络应用至推荐系统的场景中，基于此提出新型推荐系统深度学习模型框架。本研究有助于拓展深度学习的应用范围，推动深度学习在信息检索领域中的应用，并进一步改进推荐系统算法。

本项目主要围绕深度神经网络方法在新型数据上的难点，针对性地解决特殊数据处理与建模、隐式数据模式特征挖掘等问题，并在新的推荐系统领域做出应用及相关探索。项目首先设计针对多域离散数据的表示及其交互模式的自动挖掘方法，提高用户点击概率的预测精准性，并将之应用于协同过滤推荐系统、序列推荐系统等多类个性化推荐场景。其次，基于新型神经网络架构，团队提出快速学习算法和超参数搜索算法，减低模型计算复杂度，提高模型的收敛效率和自动化程度。在项目期2018年至2021年，项目组在本项目研究方向发表国际学术论文27篇，其中CCF-A类论文18篇；申请国家发明专利3项。项目研究产出的深度学习模型落地在华为手机应用市场推荐系统与付费推广场景上，皆取得了令人满意的效果，提升了平台的业务指标。