基于异构信息融合的实时竞价广告响应预测方法研究

Recent years, due to its ability of precisely capturing the three-dimensional interaction, tensor decomposition models have been adopted to learn the three-dimensional interaction between user, context and ad in addressing response prediction for real time bidding. But real time bidding confronts with much sparser data than both recommender system and sponsored search. In order to fight with severe data sparsity occurred in response prediction, we try to integrate heterogeneous information available on demand-side platform into tensor decomposition models. This project focuses on how to integrate heterogeneous information with various properties into tensor decomposition models and seek the integrated solutions and frameworks. At first, we divide all information available for DSP into five types: general object features, hierarchy and cluster information, temporal information, click and conversion response information. Then, according to different type of information, we analyze their characteristics and functions in prediction process and design different strategies to integrate them into tensor decomposition models. Finally, we research the integrated solutions and frameworks which can incorporate all kinds of information and improve the prediction performance both on regression and on ranking. The final goal is to outperform the state of art methods on response prediction for real time bidding.

为了有效地挖掘用户、上下文和广告之间的三维交互关系，张量分解模型开始被用于解决实时竞价广告响应预测问题。然而实时竞价广告响应预测面临严峻的数据稀疏问题，尤其是广告转化率预测，单纯地只依靠融合某类或某些信息不能有效地解决严峻的数据稀疏问题，只有同时综合利用各种各样的异质、异构信息共同应对。本项目重点研究如何将各种各样的异构信息融合集成到张量分解模型中缓解数据稀疏问题，提升模型预测的准确性和可靠性。首先，我们根据可以获得并利用的信息的类型、性质、结构、表示方式及其在解决数据稀疏问题中所起的作用等将所有信息分成五个类别，普通对象特征、层次和聚类信息、时间序列信息、点击与转化反馈信息及全局特征。然后，我们针对不同类型信息的性质和特点，基于张量分解模型，研究不同的融合方案和方法。最后，我们研究同时能够融合五类不同信息的综合框架和解决方案，并通过排序和回归组合优化同时提升基于排序和回归的性能指标。

为了有效地挖掘用户、上下文和广告之间的三维交互关系，张量分解模型开始被用于解决实时竞价广告响应预测问题。然而实时竞价广告响应预测面临严峻的数据稀疏问题，尤其是广告转化率预测，单纯地只依靠融合某类或某些信息不能有效地解决严峻的数据稀疏问题，只有同时综合利用各种各样的异质、异构信息共同应对。本项目重点研究如何将各种各样的异构信息融合集成到张量分解模型中缓解数据稀疏问题，提升模型预测的准确性和可靠性。.首先，本项目提出了三元组排序优化算法，解决了同时利用历史反馈数据中的点击信息和转化信息的问题，更好地提升了转化预测的性能。此算法还具有很好的扩展性，能够扩展应用到其它的三分类排序问题，能更好地解决三分类排序问题。其次，本项目提出了回归与三分类排序组合优化策略，在预测广告反馈时同时考虑了三分类排序损失和预估值损失，有效地提升了预测性能，此方法也具有扩展性，可以用于具有相似性质的问题中。最后，本项目提出了异构信息综合融合方案解决了普通对象特征、层次聚类特征、全局特征和用户反馈特征同时融合的问题。本项目在重要期刊或会议上共发表论文15篇；其中发表国际顶级会议1篇，国际重要会议3篇，发表SCI期刊4篇。培养博士研究生1名，硕士研究生3名。作为成果的一部分获得黑龙江省自然科学技术奖三等奖一项，获得黑龙江省高校科学技术奖三等奖一项。.本项目研究成果可以应用于在线预测广告点击或转化率的模型，模型融合方法简单，实用性好。另外，本项目提出的三分类排序优化方法以及回归与三分类排序组合优化策略都有较好的扩展应用价值，可以应用于所有的三分类排序问题中，例如在情感分析中，用户对产品的评价有时不能明确地分为正向和负向，这时可以将评价从极性上分为正向，负向和中性三类，然后转化为三分类问题进行预测，这将是我们未来的研究工作。