面向多承租的弹性缓存服务关键技术研究

云计算环境下，分布式缓存为用户提供高可用、可伸缩的数据缓存服务，是提升应用性能的一种重要手段。然而由于云平台固有的开放性和动态性以及多承租、弹性资源供给、按需付费的特性，给缓存服务质量保障带来诸多新的挑战。鉴于目前业界普遍对具有云特性的弹性缓存服务的迫切需求，课题借鉴自治计算的思想，深入研究面向多承租的弹性缓存服务关键技术，包括缓存服务性能隔离、缓存数据迁移以及缓存策略自适应机制。重点研究基于多QoS约束的缓存服务性能隔离技术、面向可用性与一致性保障的数据迁移机制、基于机器学习的缓存策略自适应机制，建立面向多承租的弹性缓存服务框架，实现缓存服务支撑软件系统，从而提高分布式缓存服务的可用性、可靠性和柔性，降低系统维护成本。

分布式缓存作为重要的云服务，在云应用运行支撑和云状态存储方面发挥着日益突出的作用。与此同时，云平台固有的开放性、动态性以及多租户、弹性资源供给、自适应性、可用性等特点和需求，也给缓存服务的运行、维护和管理带来了新的问题与挑战，现有分布式缓存技术与云计算实际需求间仍存在一定差距。本课题借鉴自治计算的思想，深入研究面向多承租的弹性缓存服务关键技术，重点解决缓存策略自适应重配、缓存数据迁移优化和缓存服务性能隔离等方面的问题，建立具有云特性的缓存服务框架，并进行原型系统的设计与实现。.本课题取得如下研究成果：1）提出一种基于机器学习的缓存策略自适应重配方法。着力解决如何持续优化离线训练得到的负载分类模型，以及如何有效降低缓存策略重配开销的问题。提出两种分类模型的增强机制；通过状态转换图、缓存对象同步算法以及策略重配优化机制来保障自适应操作的稳定、高效执行。同已有工作相比，方法支持负载分类模型的在线演化，自适应操作及模型优化对系统性能的影响较小。相比于静态策略配置，该方法可提升系统吞吐率15-31.5%。2）研究了虚拟化环境对缓存数据迁移的重要影响，在此基础上，提出一种基于面积的迁移开销模型，该模型一方面可以有效权衡迁移时间与性能衰减值，另一方面可以感知底层I/O操作的细节并刻画虚拟机性能干扰的程度。基于上述模型，给出了一种开销敏感的数据迁移算法，为迁移决策的制订和优化提供支持。方法在吞吐率和平均响应时间方面，分别优于已有方法11-23%、8-18%。3）围绕缓存空间与带宽资源的公平分配问题展开研究。首先，提出一种支持租户间内存配额动态调整的新的缓存空间划分机制，动态调整的目标是使每个租户的资源量与负载量相匹配，因此该机制具有较优的灵活性与扩展性；在此基础上，提出一种租户敏感的缓存替换算法，保障各租户使用的缓存空间大小接近其配额。针对网络资源竞争，提出一种租户带宽分配机制和请求调度算法。方法可有效消除租户间的性能干扰，平均响应时间优于已有方法7-18%，引入的性能开销低于5%。