基于深度强化学习的大尺度人群监控场景理解研究

For the current practical problems of monitoring video analysis in large scale crowd activities and emergency management application, this proposed project combining with the study of the recent advances, the evolving trend and the related work of applicant in the field, gives a full consideration to the essential feature of large scale crowd behavior by comprehensively using the scientific method from multiple areas of crowd dynamics, computer vision, machine learning and fluid dynamics, and hopes to solve the key problems and bottlenecks of crowd behavior analysis in actual complex application environment. This project aims to research on the crowd state representation and deep perception including the density estimation and distribution based on spatial transform CNN network, then research on local and global crowd dynamic interaction between actor and environment based on fluid dynamics model and social force model. Finally, a multi-agent deep reinforcement learning based on actor-critic model with domain knowledge constrained are proposed to achieve effective analysis of crowd state description, behavior recognition and prediction. The whole research framework aims to obtain the theory and technology breakthroughs of this cross field in order to provide theoretical basis and effective algorithm for the deep understanding of complex practical crowd behavior and scenes.

针对当前监控视频分析中群体活动和突发事态管理的现实问题，本课题结合本领域的研究动态、发展趋势和申请者相关的工作基础，充分考虑大尺度群体行为的本质特征，综合运用群体动力学、计算机视觉、机器学习和流体动力学等多个领域的科学方法，对面临的关键问题和瓶颈进行研究和探索。本课题研究复杂监控人群场景状态表达和深度感知，包括空间变换的人群密度分布和一致性约束的语义分组；利用流体力学模型和社会力模型构建行为主体与环境交互的人群场景领域知识约束；研究联合深度学习和强化学习的Actor-Critic系统框架；通过基于领域知识约束的多Agents的组合强化学习模型获得价值最大的行为策略实现人群状态分析和行为的预测。本课题拟构建人群常态化监控和突发事件演进预测的研究方案，以期获得该交叉领域研究理论与技术的突破，为复杂的集群行为和场景的深度理解提供有效的算法和理论基础。

针对当前监控视频分析中群体活动和突发事态管理的现实问题，本项目结合本领域的研究动态、发展趋势和申请者相关的工作基础，充分考虑大尺度群体行为的本质特征，综合运用群体动力学、计算机视觉、机器学习和流体动力学等多个领域的科学方法，致力于对人群行为分析技术在实际复杂应用环境中面临的关键问题和瓶颈进行研究和探索。本项目首先研究复杂监控人群场景状态表达和深度感知，包括空间变换的人群密度估计和一致性约束的语义分组；其次，利用流体力学模型和社会力模型构建行为主体与环境交互的人群场景领域知识约束；最后，研究联合深度学习和强化学习系统框架，通过基于人群领域知识约束和语义提取获得价值最大的行为策略实现人群当前状态分析、分割区域、异常事件的有效预测。同时，本项目在人群时空特征表达和交互关系研究的基础上，扩展了个人、组群多颗粒度协同的行人重识别和搜索研究并搭建了人群分析和深度理解演示验证系统。综上，本项目构建人群常态化监控和突发事件演进预测的研究方案，获得该交叉领域研究理论与技术的突破，为复杂的集群行为和场景的深度理解提供有效的算法和理论基础。.项目组所形成的研究成果包括已发表SCI/EI收录的国际学术论文35篇，其中期刊论文12篇，会议论文23篇。已申请国家发明专利33项，获得授权14项。获得美国专利授权1项，ESI高被引期刊论文1篇。获得ECCV2018国际挑战赛行人搜索任务冠军1项；IFTC2018最佳论文展示奖1项；PRCV2018最佳论文提名奖1项；IFTC2021最佳论文奖1项；上海市优秀硕士毕业生1名；上海图像图像学会优秀硕士论文1篇。