面向异构众核系统的动态细粒度线程映射优化研究

Abstract: The heterogeneous many-core system has emerged as a promising development trend in the domain of high performance computing. How to fully exploit the computing power and improve parallel computing efficiency is a major challenge in the heterogeneous many-core system. In order to tackle above challenge, the project studies on the optimization theory and key technologies of energy efficiency from the aspects of threads mapping for the heterogeneous many-core systems. First, an optimum thread count prediction model will be abstracted, and a dynamic adjustment mechanisms of thread count will be designed. Second, a data reuse distance based data affinity quantifying approach will be created through research parallel data reuse distance of threads running on the heterogeneous many-core system. Third, a data affinity based threads grouping mapping and dynamic energy control strategy will be proposed according to data affinity of threads and the hardware architecture feature of many-core processors. Finally, a prototype system of thread mapping optimization mechanism for heterogeneous many-core system will be proposed, implemented and verified. The research results will provide theoretical basis and technical support for reasonable matching the parallel characteristic of application with the computing resource of heterogeneous many-core system, efficiently executing higher level fine-grained parallel tasks, fully exploiting the high computing power and improving the computing efficiency of heterogeneous many-core systems. The project study will have important implications for enriching the basic theory of high performance computer system architecture, promoting the wide popularity of heterogeneous computing.

异构众核系统已成为高性能计算领域一种重要的新兴模式，本项目针对异构众核系统计算潜能不能有效发挥、整体计算效能不高的问题，从计算任务到处理单元映射层面探索异构众核系统计算效能优化理论及关键技术。具体涉及：研究线程数和计算效能的关系，抽象异构众核系统下最优线程数预测模型、设计线程数动态调整策略；基于异构众核系统应用线程并行数据重用距离，研究数据局部性及数据相关性度量方法；基于数据局部性及相关性，结合异构众核系统硬件架构特征和程序动态变化特性，研究线程到处理核的动态细粒度分组映射及能耗控制策略；设计、实现和验证相应的线程映射优化机制原型系统。本项目研究成果将为实现异构众核系统下应用程序并行特征和计算资源合理匹配、更高级别细粒度并行任务高效执行、异构众核系统高计算能力充分发挥及整体计算效能的提升，提供理论依据和技术支撑。同时，对丰富高效能计算机系统结构基础理论、促进异构计算的广泛应用具有重要意义。

为实现异构众核系统下应用程序并行特征和计算资源合理匹配、细粒度并行任务高效执行，充分发挥异构众核系统高计算能力和提升并行应用程序的整体计算效能，本项目依据研究内容和研究目标，完成了研究计划中的各项内容。构建了异构众核系统下程序运行时的最优线程数预测模型，以解决异构众核系统下如何为多线程应用程序设置合理线程数的问题；提出了一种基于程序阶段性变化的线程数动态调整框架，以解决应用程序在执行过程中运行行为发生阶段性变化，对计算资源有不同需求时，调整线程数以合理地利用众核处理器计算资源的问题；设计了线程并行数据重用距离计算方法，计算不同线程的数据重用距离，在此基础上，提出了量化并行程序不同数据局部性及线程之间数据相关性的度量方法；设计了实现将具有高数据共享的线程划分到同一个线程组内，将具有较强数据访问争用关系的线程划分到不同线程组的线程分组策略；结合具体异构众核系统硬件架构特点，提出了将具有较好数据相关性的计算任务分配到同一个处理核相邻硬件线程之上的线程组到处理核的静态绑定映射方法；将以上并行优化理论和方法和深度学习并行优化结合，提出了基于深度神经网络模型特性感知的任务切分并行优化方法、面向图片识别的深度学习模型并行优化方法，以解决采用传统手工切分神经网络模型计算任务进行深度学习神经网络并行优化时，面临的并行化难度大、训练耗时长、模型验收收敛、内存消耗大、设备利用率低等问题。论文成果方面：在重要期刊发表录用8篇高质量论文，出版学术专著1部，申请发明专利3项，授权实用新型专利1项，获批软件著作权5项。培养学生方面：培养研究生10名，其中毕业5名（博士生毕业1名，硕士生毕业4名）。