多任务贝叶斯网络学习及其应用

Bayesian network is a well-known artificial intelligence model, it is easy to interpret and can be used to model the uncertainty. Hence, it is widely used in classification, predication and diagnosis. Given the training data, a Bayesian network can be automatically built with learning algorithms. However, the candidate structures exponentially increase with the number of nodes. Thus learning an accurate Bayesian network is very challenging. Recently, a new machine learning mechanism named Multi-task learning that utilizes the related information among multiple tasks to cover the lack of insufficient prior knowledge and training data, and improves the overall learning accuracy. Thus it has been attracting a great deal of attention. To improve the Bayesian network learning accuracy, we introduce the multi-task learning setting in this project, and explore the way of calculating task relatedness, the method of co-optimizing multiple Bayesian network structures, and the active transfer algorithm for parameter learning. Moreover, we develop the approximate inference algorithm, the method of key evidence analysis, and the performance evaluation system under the multi-task learning setting. To evaluate the proposed methods, we carry out experiments based on the BNs from well-known repository as well as two real world case studies: multiple user behaviors analysis in cyberspace and traumatic medical decision support in multiple hospitals. We expect this work to form a basis for analyzing and designing multi-task decision support system under uncertainty.

贝叶斯网络作为人工智能领域的重要模型，能够对问题的不确定性进行建模，且具有很强的可解释性，被广泛的应用在分类、预测、诊断等方面。在给定训练数据的情况下，贝叶斯网络可以通过学习算法自动的构建，然而由于可供选择的模型结构随节点数呈指数型增加，贝叶斯网络学习问题一直以来都是一个难点问题。近几年来，多任务学习由于能够利用不同任务间存在的相关性，进而弥补先验知识和数据的不足，提高学习精度，引起了学术界的广泛关注。本项目通过引入多任务条件，研究任务间相似度计算、多贝叶斯网络结构协同优化，以及网络参数的主动迁移学习的方法，从而期望获得更准确的模型。同时，通过研究多任务条件下贝叶斯网络的近似推理算法、关键证据集的分析方法，以及综合的模型评价方法，在公开数据和网络空间多用户行为分析、多医院创伤医疗决策两个具体应用中，对所提算法进行检验，为不确定环境下多任务辅助决策系统的分析和设计提供理论与方法支撑。

贝叶斯网络作为人工智能领域的重要模型，能够对问题的不确定性进行建模，且具有很强的可解释性，近年来在网络安全防护领域得到了高度关注。在给定训练数据的情况下，贝叶斯网络可以通过学习算法自动的构建，然而由于可供选择的模型结构随节点数呈指数型增加，贝叶斯网络学习问题一直以来都是一个难点问题。近几年来，多任务学习由于能够利用不同任务间存在的相关性，进而弥补先验知识和数据的不足，提高学习精度，引起了学术界的广泛关注。本项目通过引入多任务条件，研究贝叶斯网络数值优化算法，多个贝叶斯网络结构集成学习方法，从而获得了更准确的模型。. 由于在网络安全领域，网络流量数据分布在不同计算机终端上，因此可以自然的将多任务贝叶斯网络学习方法应用在XSS攻击流量检测上，通过任务之间的共享信息来提高算法的性能。此外，还构建了反映攻击特征的领域知识本体，将其作为知识库来提取有关攻击的特征，做为构建模型的基础，并利用威胁情报改进了攻击检测模型的学习效果，同时提出了一种节点重要性排序的方法对检测结果进行合理的解释，并在实际XSS攻击数据集上应用本项目模型和方法，取得了良好的效果。项目证明了多任务贝叶斯网络学习的可行性，同时开展了利用贝叶斯网络进行XSS攻击检测的系列研究，为网络安全与人工智能的交叉提供了一个可行的方向。