高性能离线数据处理与物理分析综合平台的研究

The BESIII experiment data volume is expanding rapidly, and the JUNO experiment data will be even larger after running. It’s a big challenge to the offline software system in order to keep the data processing and analysis in high speed. Dealing with the system bottleneck and improving the usability rate of computing resources become particularly significant. Meanwhile, new technologies of computing science are widely used, such as Plug-in Software Development, Hybrid Programming and NoSQL. Especially the Parallel Computing becomes more and more successful. These tendencies greatly affected the traditional software ideology. We have late-mover advantage to develop a new software platform for offline data processing and analysis, which will provide Parallel Computing supports in different phases exhaustively. The new software platform can speed up the BESIII physics analysis effectively. It’s also a complete proposal to the offline software system of upcoming JUNO and LHAASO experiments. Moreover, the studies will provide key technologies for next generation of Large Science Facilities, such as HIEPA and CEPC.

运行中的北京谱仪实验BESIII实验数据日益增长，建设中的江门中微子实验JUNO数据规模更为庞大，海量数据的快速处理是对现有离线数据处理系统的强力挑战，突破瓶颈问题提高计算资源利用效率的重要性尤其突出。而在计算科学领域，近年来插件式软件开发、混合语言编程、非关系型数据库等技术得到广泛应用，特别是多核CPU并行计算技术走向成熟，这些发展对传统软件思想造成剧烈冲击。我们立足后发技术优势，研究开发新一代离线数据处理和物理分析综合平台，着力于实现离线数据处理软件系统在框架级、事例级以及事例内等多层次的并行处理能力。新平台能够有效提升BESIII实验物理分析速度和能力，并为建设中的JUNO、大型高海拔宇宙线观测站LHAASO提供完整的高性能离线解决方案。同时，项目研究成果还为将来的Super Tau-粲工厂HIEPA和环形正负电子对撞机CEPC等新一代大科学装置提供关键技术。

项目组针对高能物理实验离线数据处理和物理分析软件系统的核心功能与关键技术，重点开展数据管理、流程控制、数据关联、数据模型、并行计算以及数据库等技术方面的研究，通过采用缓存机制实现了多事例管理，基于触发机制实现多任务控制，研发智能指针SmartRef克服了数据间的复杂关联难题，研发了XOD代码产生器便利了数据模型构建，采用Intel TBB以及MPI技术实现了软件平台的并行计算能力。项目组综合以上关键技术方面的创新，自主研发了我国第一个离线数据处理和物理分析综合软件平台SNiPER。该软件平台在架构设计、功能模块、用户接口等方面具有灵活的扩展性、高度的通用性以及极大地轻便性和易用性。. 目前SNiPER软件平台已被JUNO、LHAASO、STCF、HERD、nEXO等多个不同类型的大型国际合作实验所采用，用于开发其整个离线数据处理和物理研究软件，取得一些阶段性成果，主要包括：BESIII实验物理分析的性能分析研究表明，采用SNiPER和事例重建模型的物理分析比原软件系统其整体速度提升了近4倍，数据的输入／输出性能提升了近10倍；江门中微子实验采用SNiPER软件平台成功研发了其离线应用软件系统，包括事例产生子软件、探测器模拟软件、刻度软件、重建软件以及物理预分析等，实现了事例劈裂和事例混合等复杂的蒙特卡洛模拟数据的的产生，并与2018年通过了国际合作组的专家评审；大型高海拔宇宙线观测站实验LHAASO采用SINPER作为底层软件框架，搭建起了其离线软件系统LODESTAR，已应用于蒙特卡洛模拟数据的产生和实验数据的分析，2020年1月通过了项目建设指挥部组织的专家评审验收；同时，预研中的超级陶粲工厂STCF已基于SNiPER软件平台开发其离线软件系统OSCAR，用于探测器设计方案的优化和性能研究；美国nEXO实验也采用了SNiPER作为底层框架，复用了项目组研发的数据模型和内存管理技术，实现了其模拟和重建软件，提升了我们的国际影响力。