基于测量方法的多核处理器Cache特性分析模型

The imprecise documentation of the cache organization on commercial processor introduces big impediment for high-quality software developing, and this situation becomes even worse when the new techniques are applied onto the cache of multi-core processors. Measurement-based methods could employ processor internal registers and well designed benchmarks to effectively profile the useful information of hardware and software system. By investigating new replacement policy and organization applied on multi-core cache, this research will develop measurement-based profiling model and techniques for new cache architecture. Based on the obtained cache information, we will further develop the modeling techniques for program cache miss ratio analysis and bottleneck architecture sensitivity analysis, and evaluate the new models and techniques. The goal of this project is to solve the critical technique problems on hardware and software performance analysis introduced by new cache organization on multi-core processors, and contributes theoretical and technique supports for the better utilization of multi-core processors.

实体处理器上Cache结构信息的不透明给高质量软件开发设置了诸多障碍，而多核处理器上由于其Cache结构发生了较大变化使得这一问题更加突出。基于测量的方法通过读取处理器内部寄存器、运行对特定硬件结构敏感的测试集等策略可有效获取硬件内部信息及系统运行状态。本项目采用测量方法，根据多核Cache在替换策略、组织方式等硬件结构上的新型变化，研究适用于新型Cache结构的分析模型及分析方法；在解决Cache结构信息不透明问题的基础上，进一步研究适用于多核处理器的Cache访问不命中比例分析模型以及程序与Cache瓶颈结构相关性的分析模型，并对新模型及分析技术进行验证。项目旨在解决由多核处理器新型Cache结构产生的硬件与软件分析关键技术问题,为多核处理器平台上的系统性能的提高提供理论基础与技术支撑。

实体处理器上Cache结构信息的不透明给高质量软件开发设置了诸多障碍，而在多核处理器上由于自适应Cache替换策略等一系列新型机制的相继使用使得这一问题变得更加突出。本项目采用测量方法，根据多核Cache在替换策略、组织方式等硬件结构上的新型变化，研究了适用于新型Cache结构的分析模型及分析方法；在解决Cache结构信息不透明问题的基础上，进一步研究了适用于自适应替换策略的程序性能分析模型与分析方法。课题组成员经过3年的工作取得了如下研究成果：（1）设计了面向组竞争机制的自适应Cache结构分析方法；（2）发现并分析了主流多核处理器上所使用的自适应替换策略与Cache隔离机制间的相互影响问题。（3）提出了一种基于高斯采样的共享Cache高效建模方法，显著减少了共享Cache性能分析中的采样数量。（4）针对自适应替换策略在被隔离Cache区域之间产生影响这一问题，设计了一种考虑替换策略影响的程序执行时间判定方法。（5）设计了一种应用于自适应Cache上的程序性能下降预测方法，用以估计在自适应Cache上程序间的性能影响。自适应Cache替换策略对程序的运行性能具有显著影响，但是相关问题研究仍十分不足。本课题组的研究内容与研究结果将会对日后的相关研究工作产生有益的启发及借鉴意义。