众核体系结构中的渗透式延迟容忍方法研究

随着众核体系结构的蓬勃发展，以及存储墙问题的日益严峻，数据传输延迟已经成为众核体系结构性能提升的主要瓶颈。渗透式延迟容忍方法可以通过更精确地获取线程上下文来有效控制访存延迟，本项目从如下三个维度研究众核体系结构中的渗透式延迟容忍方法：1)层次化渗透：针对存储层次增加而导致的数据传输延迟增大的问题，研究流水式的层次化渗透式延迟容忍方法，以实现众核结构的性能可扩展性。2)规则化渗透：针对非规则数据组织和处理低效的问题，研究非规则数据在渗透过程中的规则化重组方法，以形成渗透过程中的即时空间局部性。3)正交化渗透：针对片上网络中渗透数据与非渗透数据传输冲突的问题，研究正交化渗透方法，以提高片上网络数据传输的稳定性。本项目通过从层次化、规则化和正交化三个维度研究众核体系结构中的渗透式延迟容忍方法，为数据传输延迟容忍提供系统而有效的解决方案。

随着众核体系结构的蓬勃发展，以及存储墙问题的日益严峻，数据传输延迟已经成为众核体系结构性能提升的主要瓶颈。渗透式延迟容忍方法通过更精确地获取线程上下文来有效控制访存延迟，本项目通过建立用于评估渗透式延迟容忍方法的理论模型，提出了反映众核结构特征，建立并行事件驱动模拟系统，通过不同部件并发执行的方式，使得模拟系统能够更加准确反映目标系统的真实运行轨迹，增加了模拟的精确度。通过分析众核处理器对渗透式延迟容忍的要求，研究了不同计算特征的程序在众核片上网络上的传输特征，从如下三个维度提出众核体系结构中的渗透式延迟容忍方法：1)层次化渗透：研究分析了渗透缓存模型的基本理论，提出动态系统联动的数据迁移改善数据及时局部性的持续和稳定的方法。针对存储层次导致的数据传输延迟增大的问题，提出流水式的层次化渗透式延迟容忍方法，可根据需求调整访存级别，达到延迟容忍要求。提出基于数据亲和性关系的调度算法。通过程序员合理设计，减少不必要的数据共享，从而提高并行性。并提出硬件支持，为不同应用任务提供不同的调度粒度满足全局实时性要求。2)规则化渗透：对于非规则数据，多层缓存引入了较长的计算至访存的路径，对性能有负面影响。针对这个问题，提出非规则数据在渗透过程中的规则化重组方法，以形成即时空间局部性。针对高通量大数据处理类应用执行过程中的特征，提出适合于众核体系结构的智能流控方法，实现非规则数据即时局部性的规则化渗透。3)正交化渗透：针对片上网络中渗透数据与非渗透数据传输冲突的问题，提出正交化渗透方法，提高片上网络数据传输的稳定性。研究了提升稀疏目录性能的方法，提出了victim目录，避免缓存中对应的数据作废。针对在对组相联缓存只有一路缓存块是命中的问题，提出了Thread id Cache，消除了一个线程对其它线程私有数据块的不必要缓存路访问，从而降低由于访问操作产生的动态功耗。本项目通过从层次化、规则化和正交化三个维度研究了众核体系结构中的渗透式延迟容忍方法，为数据传输延迟容忍提供了系统而有效的解决方案。本项目相关工作共申请国内外专利18项，发表论文34篇，其中会议论文19篇，期刊论文15篇，本课题主要研究内容在IEEE Micro、ISLPED、PEuroPar、HPCC、PACT等领域重要期刊和会议上发表，超额完成了项目的预期研究目标。项目执行过程中，培养毕业硕士研究生8名，博士研究生6名。