面向集成架构的不规则负载划分及优化关键技术研究

The integrated architecture that features both CPU and GPU on the same chip is an emerging and promising topic in architecture research. However, the integration of different devices also brings forward several programming and system optimization challenges, especially for irregular workload. Previous research shows that the simple workload partitioning for CPU-GPU co-processing is far from ideal in terms of resource utilization and performance. Hence, efficient co-processing on the CPU and GPU for irregular workload is still an open problem. To solve this challenge, this proposal shall develop a fine-grained workload partitioning method and workload scheduling on different devices. Through irregularity-aware performance modeling, fine-grained workload partitioning with consideration of CPU and GPU difference and features of integrated architectures, and online auto-tuning of different devices, this proposal improves resource utilization and performance greatly on integrated architectures. At the same time, this proposal performs further optimizations to dynamic and large-scale workload. With development of a prototype system, the above key technologies can be verified.

将CPU和GPU集成到一个芯片进行混合运行是体系结构研究发展的重要方向之一。然而，多种设备相集成也带来了编程和系统优化方面的巨大挑战，特别是在多种异构设备上运行不规则负载的场景下，挑战会更大。前期研究表明，将负载简单地划分给CPU和GPU混合运行的方法，在资源利用率、性能等关键指标方面都表现不佳，因此，针对如何使CPU和GPU高效地混合处理不规则负载是一个亟待解决的科学问题。为了解决这一挑战，本项目研究一种新型细粒度的负载划分方法以及负载在多设备上调度优化的方案，通过建立负载的不规则性感知模型、考虑CPU和GPU设备的差异以及集成架构的特性的细粒度负载划分方法、以及集成架构上的多设备在线调优技术等关键技术研究，同时，针对一类特定负载的动态性和大规模特性开展进一步的优化，使得集成系统的资源利用率和性能等方面获得显著的提升。通过研制原型系统，验证上述关键技术的有效性。

CPU和GPU集成到一个芯片进行混合运行是体系结构研究发展的重要方向之一。然而，多种设备相集成也带来了编程和系统优化方面的巨大挑战，特别是在多种异构设备上运行不规则负载的场景下，挑战会更大。前期研究表明，将负载简单地划分给CPU和GPU混合运行的方法，在资源利用率、性能等关键指标方面都表现不佳，因此，针对如何使CPU和GPU高效地混合处理不规则负载是一个亟待解决的科学问题。为了解决这一挑战，本项目研究了一种新型细粒度的负载划分方法以及负载在多设备上调度优化的方案，通过建立负载的不规则性感知模型、考虑CPU和GPU设备的差异以及集成架构的特性的细粒度负载划分方法、以及集成架构上的多设备在线调优技术等关键技术究，同时，针对特定负载的动态性和大规模特性开展进一步的优化，使得集成系统的资源利用率和性能等方面获得显著的提升。通过研制原型系统，验证上述关键技术的有效性。