信誉系统中攻防博弈模型及策略优化研究

Reputation system is to accurately evaluate the behavior of the individual through the accurate calculation of the trust value of the subject, so as to better encourage participants to take cooperative action and prevent the system suffering from unreliability and inefficiency issues. Mostly current research focuses on reputation model, evaluation method, or incentive mechanism in a specific environment, and they aim to find malicious behavior or “free rider” behavior by reputation system, and improve the efficiency and security of system. However, the widespread white-washing, collusion, strategy deception and Sybil attacks make reputation system itself is facing more difficulties. This project, using the evolutionary game and the game equilibrium analysis as the basic theoretical framework, studies the attacking behavior and its evolution dynamics, the anti-attack strategy optimization and the resource allocation in the reputation system. The concrete research involves the construction of the trust evaluation game model and the dynamics analysis, the anti-attack strategy optimization for attacks. It will reveal the internal relations, algorithms, and models of the relevant research from the bottom up. This project will provide a new way to study the security control in the distributed multi-agent systems, and lay a solid theoretical foundation for designing a healthy, orderly and secure reputation systems.

信誉系统通过建立用户间信任关系，为用户间安全交互或协作提供了保障，成为解决该问题的重要途径。当前研究重点关注如何构造特定环境中的信誉模型、评估方法或者激励机制，防止系统因为恶意行为或“搭便车”行为而使得其可信性和可用性降低。然而广泛存在的洗白、共谋、策略欺骗和女巫等对于信誉系统的攻击，使得信誉系统本身的安全性和公平性也面临窘境。本项目以演化博弈与博弈均衡分析为基本理论框架，研究信誉系统中攻击行为及其演化动力学，反攻击策略的优化及安全资源的配置。具体研究涉及信任评估博弈模型的构建与演化动力学分析，个体攻击的反攻击策略优化求解。该项目的成功实施将为研究分布式多主体系统中安全控制提供新的研究思路，为设计健康、有序、安全的信誉系统提供核心方法和基础。

本项目面向多主体类信誉系统，对网络系统漏洞、流行病传播、推荐系统、无线传感器网络等因多主体协同所造成的安全问题进行了研究，其中包括：主体行为动力学分析、合作激励、病毒传播、隐私保护等问题，研究了网络系统漏洞安全评估方法和防御机制，推荐系统攻击方法或对抗策略，社交网络中主体隐私保护以及流行病传播防控等。具体来说：(1)针对企业级网络中存在的漏洞日益增多, 给公司网络系统安全控制机制带来了巨大安全问题，提出了基于依赖图的网络系统安全度量评估方法；提出了对企业网络中漏洞之间的复杂依赖关系进行建模方法，并通过安全攻防博弈对于现有安全系统防护进行优化。(2)针对复杂网络中主体合作机制设计与优化问题，提出了趋利避害迁移、憎恶迁移和全局迁移等三种迁移策略促进主体合作演化；研究了多种策略多人博弈的资源共享模型合作行为演化。(3)针对人群网络疾病传播与控制问题，研究了：基于历史信息的接种补助策略；基于邻居信息的接种补助策略；重叠社区的疾病控制机制；不确定性网络的疾病控制机制。(4)针对推荐系统安全的问题，研究了：针对图卷积自编码器推荐系统的对抗攻击算法；基于切面法的图像识别模型对抗攻击算法。(5)针对社交网络中心节点隐私保护问题，研究了基于紧密度的社交网络的中心节点隐匿方法。(6)针对社交媒体上的网络欺凌包含拼写错误、语法错误等噪声难以检测的问题，提出了融合字符组合特征和语义特征的捷径策略，有效降低了用户生成内容中噪声的干扰，提高了模型学习欺凌特征的能力。等等。项目研究成果对于设计更为健壮的多主体类信誉系统有着积极的理论意义和应用价值。