大规模异构计算系统高时效协同功耗管理方法研究

Energy consummation has topped the key constraints throttling modern computing systems in delivering high performance. Heterogeneous computing system has been proven to be able to boost the energy efficiency by 1~2 orders of magnitude, but the existing power management approaches suffer from a significant limitation for lack of timeliness and coherence, making the attractive potential of energy efficiency not fully accessible. To overcome the limitation, we propose to build a distributed coherent power management approach based on equilibrium theory. In this project, we will investigate 1) low computational energy model, 2) gaming model based on local-equilibrium, 3) distributed coherent power allocation algorithm for global-equilibrium, 4) NoC-based distributed communication and hardware supports, and 5) high responsiveness hardware for power adaptation. Basically, the whole investigation ranges from the theory, model, algorithm to hardware supports, and finally validated by a FPGA prototype. With the sponsorship, we will innovate the design guidelines of power optimization for future power-constrained large-scale heterogeneous processors. These efforts are expected to spawn a series of original cutting-edge researches in the computer system and architecture field.

能耗问题已经成为限制现有计算系统性能发挥的主要因素之一。异构计算系统具备显著提高计算系统能效比1～2个数量级的潜力，但现有的功耗管理方法对这类计算系统显示出明显的时效性和协同性的局限，使得这类计算系统的能效潜力得不到充分发挥。鉴于此，我们提出基于均衡理论构建分布式协同功耗管理的方法来克服现有方法的局限性。本项目拟研究1）异构计算系统的低计算复杂度能效模型，2）基于局部均衡的博弈模型，3）全局均衡的分布式协同分配算法，4）基于片上网络的分布式管理信息传递方法及硬件支持，5）高响应速度的硬件支持等五方面的内容，分别从理论方法和硬件支撑两大方面来研究高时效性和协同性的功耗管理方法，最后落实到FPGA原型系统验证。我们期望在本项目的支持下，为未来可用功耗受限的大规模异构芯片的功耗优化提供新的参考依据。这些工作可望带来一系列计算机系统结构领域原创性的高水平研究成果。

大数据时代引发了新一轮的信息产业革命，数据处理所消耗的能源也在不断上升，业界迫切地需要解决方案提升能效，以解决高计算强度与能耗飙升的矛盾，目标是突破现有的计算系统的能效比，将现有每秒每瓦特10亿次浮点运算的计算效能提升到每秒每瓦特750亿次浮点运算，将现有的计算系统的能效比提高两个数量级。异构计算系统具有先天的能效优势。相比于传统的通用计算系统，异构计算系统偏向于面向各类应用“定制”部分计算单元，相比现有的基于同构通用多核处理器的计算系统，异构系统具备提升1～2个数量级能效比的潜力。将一个芯片内部集成越来越多的异构计算核成为了提高计算效能的有效途径，同时也符合芯片集成化程度的不断提高的趋势。然而，由于芯片供电系统能力增长相对缓慢、散热条件严峻等问题，集成大量计算核的芯片实际可提供的性能将受限于功耗和散热，出现了所谓的 “暗硅（Dark Silicon)” 现象，这成为了计算机体系结构和集成电路所面临的新挑战。本项目针对如何在功耗受限的情况下如何更加高效地管理功耗的关键科学问题，从管理算法，片上软硬件支持，功耗管理友好体系结构设计等方面来展开研究，取得了系列研究成果。. 项目全面完成了预定目标，并且在成果转化方面有新的突破。我们提出了面向异构多核系统的功耗管理框架PowerTrader，证明了对于大规模片上系统的功耗管理可以通过自发性机制来实现，并且时效性比集中式管理更加有效。同时，在异构系统构建方面，我们首次发现了现有神经网络计算架构中规整性和稀疏性之间冲突性，对冲突原因进行深入分析，并证明缓解两者冲突的可能性。完了基于OpenCL的一套功耗管理平台的原型系统，我们建立了基于FPGA加速卡和相应的宿主机的系统，支持自主设计专用硬件加速器，同时具备可配置的特点, 已经通过多种服务器平台的质量测试。成果包括论文26篇，其中CCF-A类论文7篇，CCF-B类论文5篇，SCI论文10篇，其他论文9篇，完成定制计算论著一本，开发并发布时间序列的测试集TSPEC一项，申请发明专利6项，软件著作权3项。