面向多核虚拟集群的并行应用性能优化方法研究

With the prevalence of multicore and cloud computing, multicore virtual clusters become important platforms to run parallel applications because of their cost-effectiveness and flexibility. Synchronization and load balancing are key problems to the performance of parallel applications. However, when running on virtual clusters, parallel applications tend to contend for CPU resources, so as to degrade the performance of synchronization and load balancing policy. This project attempts to optimize parallel applications for multicore virtual clusters based on two critical points including synchronization and dynamic load balancing. Specifically, we firstly formulate a model for analyzing the performance of parallel application in over-committed virtualized environments. Based on this model, we conduct research on two key techniques: wait-free concurrent data structures with high performance and two-level dynamic load balancing based on adaptive work-stealing. Finally, we develop the prototype systems, and verify the proposed techniques on our IaaS platform. We believe that the results of this project will help to guarantee the benefits of both the cloud service providers and consumers, and thus help to promote the healthy development of the cloud computing platform as well as its services.

随着多核处理器和云计算技术的普及，多核虚拟集群以其低成本、按需灵活配置的优点，成为运行并行应用的重要平台。同步通信和负载均衡是影响并行应用性能的关键问题。然而，虚拟集群容易使其承载的应用陷于对CPU资源的竞争，从而导致现有并行应用的同步通信和负载均衡机制性能低下。本项目以优化并行应用的同步通信机制和动态负载均衡特性为切入点，进行面向多核虚拟集群的并行应用性能优化方法研究。具体内容包括：基于过载虚拟机条件的并行应用性能分析模型，在此基础上，重点针对高性能无等待并发数据结构的构建技术、基于自适应任务创建与窃取的两级负载均衡技术两项关键技术方面开展研究，并依托我们已建立的IaaS实验平台进行系统集成，结合并行应用性能分析模型开展关键技术的评测和验证。本项目有助于同时保障云服务提供商和客户的利益，从而为推动云计算平台及其支撑业务的健康发展具有重要的应用价值。

随着多核处理器和云计算技术的普及，多核虚拟集群以其低成本、按需灵活配置的优点，成为运行并行应用的重要平台。同步通信和负载均衡是影响并行应用性能的关键问题。然而，虚拟集群容易使其承载的应用陷于对CPU资源的竞争，从而导致现有并行应用的同步通信和负载均衡机制性能低下。针对这一问题，本项目首先提出面向虚拟集群的行为记录重放方法与系统，通过记录多核虚拟集群中各类应用行为，重放并行应用的运行过程，为分析和解决并行应用在多核虚拟集群环境下的性能瓶颈问题提供了条件。在此基础上，以优化并行应用的同步通信机制为切入点，重点针对高性能无等待并发数据结构的构建技术开展研究，为虚拟机内通过共享数据结构进行同步通信的操作提供无等待的进度保障，从根本上缓解同步通信操作对CPU资源的浪费，并为并行应用的负载均衡提供了底层数据结构方面的支撑，提升多核虚拟集群的构建效率。此外，本项目探索了无等待数据结构在并行机器学习算法中的应用。经过三年潜心深入的研究，本项目工作进展顺利，完成了预期的研究内容和目标，并取得丰硕的研究成果，在重要国际学术期刊和会议发表论文6篇，其中IEEE Transactions顶级期刊论文3篇、中国计算机学会规定的CCF B类国际学术会议论文1篇；获批国家发明专利2项，申请国家发明专利3项。本项目的研究成果对于推动云计算平台及其支撑业务的健康发展来说，具有重要的应用价值。