面向通用GPU虚拟化多任务的三维堆叠存储架构研究

Recently, thanks to the lower cost and higher energy efficiency of GPUs (Graphics Processing Units), the General Purpose GPU (GPGPU) computing has provided new opportunities for high performance computing in the future. However, the limitations in both GPU architecture and runtime framework have degraded it as a mere accelerator, and thus cannot directly participate in general computing that essentially featured by multitasking. These limitations greatly prohibit the wide use of GPUs in high performance computing. In face of the absent hardware support on multitasking, we propose to extend the GPU architecture and optimize the runtime framework to virtualize the computing, memory and interconnect resources in GPGPU. To this goal, we focus on the GPU memory architecture and first adapt it to the state-of-art 3D stacked memory integration for larger storage capacity, higher communication bandwidth and lower latency, which are all inadequate by the 2D memory design in contemporary GPUs. Based on the new memory implementation, we then study the 3D stacked memory architecture and dynamic resource management to facilitate the GPGPU multitasking and virtualization. Furthermore, with the aid of runtime framework for multitasking, we can virtualize the memory resource in a more fine-grained and economic way, and thus better support the high performance computing and GPU virtualization in the future.

近年来，基于GPU处理器的通用GPU计算平台以其成本和能效优势为未来的高性能计算提供了新的方法和手段。但GPU本身架构和运行框架的限制使其只能以加速器的角色出现，而无法在以并行多任务处理为基本特征的通用计算环境中直接地发挥作用，从而制约了通用GPU计算的广泛应用。因此，本课题提出对现有GPU架构的拓展和运行框架的优化来实现计算、存储和互连资源的虚拟共享，进而支持GPU处理器片上虚拟化多任务并行处理的目标。针对这一目标，本课题以存储架构为切入点，利用最新的三维堆叠存储器集成工艺所提供的优势，应对现有GPU二维存储设计所面临的存储容量、通信带宽以及延时的诸多挑战。在此基础上，进一步探索和研究符合通用GPU计算虚拟化多任务需求的存储架构设计方法和资源动态管理机制，并借助运行框架多任务处理的拓展，实现更细粒度、更为经济的存储虚拟化方式，为未来的高性能计算及GPU虚拟化提供硬件架构和运行框架的支持。

近年来，GPU处理器以其卓越的性能和能效优势为高性能计算提供了新的方法和手段。随着通用CPU+GPU异构计算平台的不断发展和进步，GPU处理器需要在以并行化为基本特征的通用计算场景中更直接地发挥作用，借助虚拟化技术为诸如人工智能等大规模应用提供更为良好的支持。然而，通用GPU虚拟化技术的实现需要依赖于GPU处理器硬件对并行化多任务处理的支持，以便能够采用更细粒度、更为经济的资源共享方式，充分发挥GPU处理器的性能和能效优势，从而使得GPU处理器能够更高效地融入到未来的高性能计算平台中。. 本项目以通用GPU虚拟化所依赖的并行化多任务硬件支撑技术为研究目标。按照预期的研究计划，本项目从存储架构的设计和优化为切入点，从架构支撑、性能提升和应用优化等多个角度开展对并行化多任务硬件支持的研究。本项目首先立足于新型存储系统的架构设计，以应对现有存储架构所面临的存储容量、通信带宽以及延时等挑战；进而探索通用GPU处理器中存储系统管理机制和运行框架的优化方法，以实现多任务并行化处理时对计算、存储资源的高效共享；同时结合针对典型应用的分析，优化通用GPU处理器进行多任务处理时的性能和功耗。本项目的研究成果有助于在体系结构层面上建立存储架构对并行化多任务处理的硬件支持，突破通用GPU处理器计算虚拟化的关键技术，为未来更高能效的存储系统设计提供参考。.