内容路由器中高速缓存体系结构和关键数据结构研究

Traditional routers are designed strictly following the “end-to-end” principle that forward packets in a “best-effort” way. Distinct from stateless IP architecture, Content-Centric Networking (CCN) has Content Store (CS) built inside routers to provide in-network caching capability. In this way, content requests can be satisfied directly by in-network caching rather than from remote servers. As a result, network congestion can potentially be reduced with content delivery efficiency improved. However, compared with the file system in servers, implementing content caching in high-speed networks suffers great technical challenges. The content cache has to handle more than 100Gbps lookups in backbone traffic. It also needs to deal with frequent updates due to content creation and deletion. Besides, we have to use large-capacity, but low-speed storage to handle massive-scale network data. Currently, plenty of works have already been trying to tackle the CCN data plane performance issues, especially for FIB and PIT, two key modules in CCN routers. By contrast, very few works pay dedicated attention to CS design. In this application, we are intend to improve the performance of CS. Specifically, our research plan includes: 1, finding the system performance bottleneck and the design consideration of CS via mathematical modeling; 2, data structure design for high-speed content cache via exploiting temporal/space locality in network traffic, 3, redesign content router architecture to improve the I/O access efficiency by non-blocking I/O mechanism and relieve the heavy workloads at the system bottleneck by traffic bypassing technique; 4, evaluating the impact of our design on the network-wide performance. We believe our design can serve as a potential candidate in building future CCN routers.

传统网络遵循“中间简单，边缘复杂”的设计哲学，路由器仅完成尽力而为的转发。与之不同，内容中心网络提倡在路由器上进行内容缓存，使用户就近获取内容，减少网络拥塞。然而，相比低速文件系统，在高速路由器上实现缓存具有巨大技术挑战。缓存需要应对骨干网100Gbps甚至更高速率的查找请求；其数据结构需要处理因内容频繁发布和删除引发的更新请求；为了缓存海量网络内容，不得不采用大容量、低速存储介质。目前内容路由器数据平面研究大多关注转发表和待定兴趣表，较少工作专注高速缓存设计。本课题探索内容路由器高速缓存的性能提升，研究包括：1、通过数学建模，找到性能瓶颈和缓存设计指标的理论依据；2、挖掘流量的时空局部性，优化缓存数据结构；3、变革路由器体系结构，研究面向低速存储介质的非阻塞访问机制，并针对性能瓶颈进行流量疏导；4、体系结构变革对全网性能影响的评估。研究成果将为厂商制造实际可部署的内容路由器提供技术支撑。

为适应互联网流量模型从端到端通信发展为内容传播共享，学术界提出了内容中心网络的未来网络架构。在其中内容路由器作为底层基础设施，包含转发信息库（FIB）、待定兴趣表（PIT）和内容缓存（CS），三者在内容路由器中呈流水线形式，为了提高整体性能，有必要优化CS性能瓶颈。.本文的主要研究工作及创新点如下：.（1）基于排队网络和M/M/c模型的分析证明了CS模块最容易成为整个系统的性能瓶颈。提出一种面向高性能内容路由器体系结构的数学模型，并分析了基于流水线和基于并行架构的内容路由器FIB、PIT和CS间的相互交互情况，给出了系统性能瓶颈的定量分析。.（2）提出一种面向内容路由器高速缓存模块的数据结构设计，其核心思想是利用网络流量中广泛存在的时间和空间局部性信息，优化传统的跳表数据结构。结果表明，局部性原理跳表可以在x86处理器上实现1.796Mpps的单线程吞吐率，这是经典跳表查找速度的三倍。对于500B大小的数据包，CS的单线程吞吐率可达7.016Gbps。.（3）提出一种基于非阻塞访问机制的内容路由器体系结构设计。针对高速流量在CS模块前方队列拥塞的情况，提出了引导堆积流量绕过CS模块，经过相对空闲的PIT和FIB模块直接向上游较空闲路由器转发的设想，其本质是通过在全网实现流量的负载均衡，降低端到端的数据包时延。实验结果显示，非阻塞内容缓存机制相比经典的缓存机制可以将端到端时延降低70.1%，同时将吞吐率提升139.48%。.（4）提出了基于集中式资源预留和缓存调度的确定时延的信息中心网络架构；提出了一种缓存机制，将沿路缓存与周期更新相结合，避免路由震荡并保持最佳缓存；提出了一种基于源路由的时延探测机制，作为缓存决策的可靠依据。实验表明，在 LD-ICN 下，90.04% 的内容请求在延迟要求内得到满足，且内容缓存命中率提高了35%。.传统研究往往着眼于优化FIB和PIT，而本项目首次对内容路由器瓶颈进行分析，为后续的优化工作指明方向；本项目基于流量局部性特点提出了一种CS新的数据结构——locality-aware skiplist，单方面提升了CS性能；本项目考虑到CS存储空间较大、性能较低的问题，从路由器整体架构出发，进行优化改进并设计与之适配的传输层协议。以上工作为未来在ICN网络中真实部署ICN路由器提供了理论依据和系统实践探索。