2.5D堆叠众核协处理器片上网络结构研究

The 2.5D stacking is the development trend of many-core coprocessors. With the increase of integrated DRAM bandwidth, the 2.5D stacking many-core coprocessors desires even higher performance of the networks-on-chip. However, current NoC designs cannot meet the communication requirements of 2.5D stacking many-core coprocessors. For example, current designs do not exploit the free metal resources in the silicon interposer to improve performance. Also, current designs are not qualified for delivering the many-to-few-to-many traffic of many-core coprocessors. Therefore, this project fully exploits the architecture and communication characteristics of 2.5D stacking many-core coprocessors, and leverages the free metal resources in the silicon interposer to implement a two-layer NoC. The interposer layer network delivers lightly loaded request traffic, and the GPGPU layer network delivers heavily loaded reply traffic. Based on their communication characteristics, we optimize the design of these two networks, and also achieve load balance between them. We will obtain several innovation outcomes, including an efficient two-layer NoC based on the metal resources in the silicon interposer, a conflict-free request network with high memory access efficiency, a low latency and high bandwidth heterogeneous ring-chain reply network, and cross layer load balance strategies. These outcomes can be directly used in current design of 2.5D stacking many-core coprocessors, and have important theoretical meanings and practical values.

2.5D堆叠已成为众核协处理器的发展趋势。随着集成DRAM带宽的增加，2.5D堆叠众核协处理器对片上网络性能提出了更高的要求。然而，现有片上网络研究成果不能满足2.5D堆叠众核协处理器的通信需求，如没有利用硅中介层的闲置连线提升性能、设计不适合众核协处理器的many-to-few-to-many通信模式等。为此，本项目将充分挖掘2.5D堆叠众核协处理器的结构和通信特性，利用硅中介层连线资源实现立体片上网络，在硅中介层网络中传输低负载的请求报文，在GPGPU层网络中传输高负载的回复报文，基于通信特性对这两层网络进行优化设计，并在它们之间进行负载均衡，将在基于硅中介层连线资源的立体网络结构、高访存效率的无冲突请求网络、低延迟高带宽的异构环-链回复网络、跨层负载均衡等方面取得创新研究成果。这些成果可直接用于2.5D堆叠众核协处理器设计，具有重要的理论意义和实用价值。

2.5D堆叠众核协处理器对片上网络的性能提出了更高的要求。本课题充分挖掘2.5D堆叠众核协处理器的结构和通信特性，对高效片上网络结构的设计开展了研究，取得了一系列关键技术的突破和创新。在基于硅中介层连线资源的立体网络结构方面，提出了聚集-发散层次交叉开关网络，设计了高性能容错路由器结构，设计了面向科学计算核心负载优化的直接存储访问部件。在高访存效率的无冲突请求网络设计方面，提出了提升矩阵乘访存效率的数据搬移机制，设计了基于片上网络的低开销访存调度策略，提出了基于优先级的PCIe总线调度策略。在低延迟高带宽的异构环链回复网络设计方面，提出了高效异构环链回复网络结构，设计了面向无缓存网络的隔离区域间干扰的机制，并深入研究了路由器电源门控机制。在跨层负载均衡策略方面，提出了延时感知的动态负载均衡策略，设计了自适应动态虚通道分配策略，提出了支持高效卷积运算的可配置多向脉动阵列结构。在上述研究的基础上，设计并实现了2.5D堆叠众核协处理器的片上网络原型系统。.课题共发表高水平论文37篇，其中SCI检索国际期刊论文15篇，EI检索期刊或会议论文22篇，CCF推荐A类国际期刊或会议论文7篇，CCF推荐A类国内期刊论文2篇，IEEE/ACM Transactions论文6篇，出版学术专著1部，获授权专利7项，培养博士生4名，硕士生6名。所发表的论文中1篇论文入选CCF推荐A类国际顶级期刊IEEE TC特色论文，1篇论文获HiPEAC论文奖，1篇论文获国际顶级会议DATE最佳会议论文提名。课题所形成的成果支撑课题负责人以第一完成人获教育部自然科学二等奖1项，获军队科技进步一等奖1项（排名15），也支撑课题负责人入选了教育部国家级人才计划青年学者等人才计划。本课题全面完成了研究计划。