分布式存储系统中高时效性的数据缓存和修复策略研究

基本信息
批准号:61171074
项目类别:面上项目
资助金额:56.00
负责人:王新
学科分类:
依托单位:复旦大学
批准年份:2011
结题年份:2015
起止时间:2012-01-01 - 2015-12-31
项目状态: 已结题
项目参与者:张睿,陈辰,林珉,李钧,荣鸣,刘磊,黄中杰,朱凌云,罗翊濠
关键词:
随机线性编码数据冗余数据修复数据缓存分布式存储
结项摘要

分布式存储系统,利用网络将低成本的存储节点连接起来,可提供高时效的数据访问服务。在实际应用中,分布式存储系统面临因存储节点失效造成的数据不可访问甚至数据永久丢失的问题,而数据修复可以用来修复丢失的冗余数据。本项目旨在通过对数据修复过程进行优化,降低数据修复时间和修复过程的网络链路资源消耗,从而提高分布式存储系统中数据的可靠性和可用性。不同于由供应节点直接向新生节点传递数据的传统星形修复方法,我们研究优化的树形结构来进行数据修复,包括渐进式的树形修复和多树并行传输策略。因当前路由器计算和存储能力持续增强,且日益面向服务和用户需求。我们在数据修复的传输过程中可利用路由设备(路由器)对数据进行随机线性编码和编码数据缓存,从而降低数据修复的网络开销,有望取得更低的修复时间和更高的修复成功率。

项目摘要

分布式存储系统,利用网络将低成本的存储节点连接起来,可提供高时效的数据访问服务。在实际应用中,分布式存储系统面临因存储节点失效造成的数据不可访问甚至数据永久丢失的问题,而数据修复可以用来修复丢失的冗余数据。在本课题中,我们通过对数据修复过程进行优化,降低数据修复时间和修复过程的网络链路资源消耗,从而提高分布式存储系统中数据的可靠性和可用性。不同于由供应节点直接向新生节点传递数据的传统星形修复方法,我们研究并提出了优化的树形结构来进行数据修复,包括渐进式的树形修复和多树并行传输策略。因当前路由器计算和存储能力持续增强,且日益面向服务和用户需求。我们在数据修复的传输过程中利用了网络设备对数据进行随机线性编码和编码数据缓存,从而降低数据修复的网络开销,取得了更低的修复时间和更高的修复成功率。.我们不但从异构网络/节点协作、流水线时空资源调度、修复网络拓扑构造等方面研究并优化了修复性能,提升数据修复的高时效性,还从磁盘I/O、绿色节能角度来进行优化;我们不仅从数据中心角度研究修复性能,还从跨地理区域的广域分布式存储系统和更实际应用的机架式磁盘阵列场景来研究存储冗余修复;还考虑了移动网络应用场景;我们不仅采用了常用方法,还引入了复杂网络、软件定义网络的思想与相关研究方法;课题总体上达到了既定研究目标。

项目成果
{{index+1}}

{{i.achievement_title}}

{{i.achievement_title}}

DOI:{{i.doi}}
发表时间:{{i.publish_year}}

暂无此项成果

数据更新时间:2023-05-31

其他相关文献

1

论大数据环境对情报学发展的影响

论大数据环境对情报学发展的影响

DOI:
发表时间:2017
2

粗颗粒土的静止土压力系数非线性分析与计算方法

粗颗粒土的静止土压力系数非线性分析与计算方法

DOI:10.16285/j.rsm.2019.1280
发表时间:2019
3

内点最大化与冗余点控制的小型无人机遥感图像配准

内点最大化与冗余点控制的小型无人机遥感图像配准

DOI:10.11834/jrs.20209060
发表时间:2020
4

F_q上一类周期为2p~2的四元广义分圆序列的线性复杂度

F_q上一类周期为2p~2的四元广义分圆序列的线性复杂度

DOI:10.11999/JEIT210095
发表时间:2021
5

资源型地区产业结构调整对水资源利用效率影响的实证分析—来自中国10个资源型省份的经验证据

资源型地区产业结构调整对水资源利用效率影响的实证分析—来自中国10个资源型省份的经验证据

DOI:10.12202/j.0476-0301.2020285
发表时间:2021

王新的其他基金

批准号:30371762
批准年份:2003
资助金额:20.00
项目类别:面上项目
批准号:61571136
批准年份:2015
资助金额:63.00
项目类别:面上项目
批准号:71102181
批准年份:2011
资助金额:20.00
项目类别:青年科学基金项目
批准号:51779151
批准年份:2017
资助金额:61.00
项目类别:面上项目
批准号:41874199
批准年份:2018
资助金额:65.00
项目类别:面上项目
批准号:31871894
批准年份:2018
资助金额:60.00
项目类别:面上项目
批准号:81900410
批准年份:2019
资助金额:21.00
项目类别:青年科学基金项目
批准号:11004016
批准年份:2010
资助金额:22.00
项目类别:青年科学基金项目
批准号:11102120
批准年份:2011
资助金额:28.00
项目类别:青年科学基金项目
批准号:39770771
批准年份:1997
资助金额:10.00
项目类别:面上项目
批准号:10804082
批准年份:2008
资助金额:24.00
项目类别:青年科学基金项目
批准号:41504130
批准年份:2015
资助金额:20.00
项目类别:青年科学基金项目
批准号:30672399
批准年份:2006
资助金额:29.00
项目类别:面上项目
批准号:81673038
批准年份:2016
资助金额:56.00
项目类别:面上项目
批准号:11774384
批准年份:2017
资助金额:65.00
项目类别:面上项目
批准号:81272650
批准年份:2012
资助金额:70.00
项目类别:面上项目
批准号:11174324
批准年份:2011
资助金额:68.00
项目类别:面上项目
批准号:51109143
批准年份:2011
资助金额:25.00
项目类别:青年科学基金项目
批准号:41105029
批准年份:2011
资助金额:25.00
项目类别:青年科学基金项目
批准号:41704115
批准年份:2017
资助金额:24.00
项目类别:青年科学基金项目
批准号:30973410
批准年份:2009
资助金额:32.00
项目类别:面上项目
批准号:51479124
批准年份:2014
资助金额:84.00
项目类别:面上项目
批准号:11105098
批准年份:2011
资助金额:30.00
项目类别:青年科学基金项目
批准号:51602111
批准年份:2016
资助金额:20.00
项目类别:青年科学基金项目
批准号:60702054
批准年份:2007
资助金额:21.00
项目类别:青年科学基金项目
批准号:60176033
批准年份:2001
资助金额:5.00
项目类别:面上项目
批准号:31400918
批准年份:2014
资助金额:25.00
项目类别:青年科学基金项目
批准号:11874091
批准年份:2018
资助金额:64.00
项目类别:面上项目
批准号:81903212
批准年份:2019
资助金额:20.00
项目类别:青年科学基金项目
批准号:39970901
批准年份:1999
资助金额:13.00
项目类别:面上项目
批准号:11601279
批准年份:2016
资助金额:19.00
项目类别:青年科学基金项目
批准号:31271858
批准年份:2012
资助金额:81.00
项目类别:面上项目
批准号:81903398
批准年份:2019
资助金额:20.00
项目类别:青年科学基金项目
批准号:51405492
批准年份:2014
资助金额:25.00
项目类别:青年科学基金项目

相似国自然基金

1

HDD/SSD混合存储系统的数据布局和缓存管理策略研究

批准号:61872086
批准年份:2018
负责人:林铭炜
学科分类:F0204
资助金额:64.00
项目类别:面上项目
2

分布式存储系统中高码率MDS码关键问题研究

批准号:61801176
批准年份:2018
负责人:李杰
学科分类:F0101
资助金额:26.00
项目类别:青年科学基金项目
3

面向分布式存储系统的数据快速修复纠删码关键技术研究

批准号:61902422
批准年份:2019
负责人:柳青
学科分类:F0204
资助金额:26.00
项目类别:青年科学基金项目
4

分布式存储系统中局部修复码的研究

批准号:61601457
批准年份:2016
负责人:王安宇
学科分类:F0101
资助金额:21.00
项目类别:青年科学基金项目