中国下一代互联网示范工程(CNGI2008-109122)
- 作品数:3 被引量:22H指数:3
- 相关作者:赵铁柱董守斌更多>>
- 相关机构:华南理工大学五邑大学甲骨文公司更多>>
- 发文基金:中国下一代互联网示范工程国家自然科学基金国家重点基础研究发展计划更多>>
- 相关领域:自动化与计算机技术更多>>
- 面向并行文件系统的性能评估及相对预测模型被引量:7
- 2011年
- 基于Lustre文件系统,对并行文件系统的性能评估和性能建模进行了研究.通过对性能因子的调研,进行了一系列性能评估实验,并提出性能相关性模~(PRModel).在实验评估和PRModel分析中发现,在不同的性能因子之间存在着紧密的性能相关性,为了挖掘并利用这种相关性信息,提出了一种相对性能预测模(RPPModel)来预测不同性能因子条件下的性能.为了验证RPPModel的有效性,设计了大量实验用例.结果表明,预测结果的平均相对误差能够控制在170/o---28%的范围内,易于使用且具有较好的预测准确度.
- 赵铁柱董守斌Verdi MARCHSimon SEE
- 关键词:并行文件系统LUSTRE文件系统
- 面向搜索引擎的分布式文件系统性能分析被引量:12
- 2011年
- 搜索引擎是一种数据密集型应用,其性能极大依赖于底层文件系统的性能.文中主要讨论分布式文件系统在搜索引擎应用环境下的性能评估和性能优化问题.首先概述了分布式文件系统的性能影响因素及相关研究进展;在此基础上提出基于Hadoop的开放架构,系统地评估HDFS和Lustre在搜索引擎应用场景下的性能;最后针对实验评估发现的HDFS在写性能及小文件数据处理方面的不足,提出改进方案,为搜索引擎的分布式文件系统优化提供参考.
- 董守斌赵铁柱
- 关键词:搜索引擎分布式文件系统LUSTRE文件系统性能分析
- 基于机器学习的并行文件系统性能预测被引量:5
- 2011年
- 并行文件系统能有效解决高性能计算系统的海量数据存储和I/O瓶颈问题.由于影响系统性能的因素十分复杂,如何有效地评估系统性能并对性能进行预测成为一个潜在的挑战和热点.以并行文件系统的性能评估和预测作为研究目标,在研究文件系统的架构和性能因子后,设计了一个基于机器学习的并行文件系统预测模型,运用特征选择算法对性能因子数量进行约简,挖掘出系统性能和影响因子之间的特定的关系进行性能预测.通过设计大量实验用例,对特定的Lustre文件系统进行性能评估和预测.评估和实验结果表明:threads/OST、对象存储器(OSS)的数量、磁盘数目和RAID的组织方式是4个调整系统性能最重要因子,预测结果的平均相对误差能控制在25.1%~32.1%之间,具有较好预准确度.
- 赵铁柱董守斌董守斌Verdi MarchSimon See
- 关键词:并行文件系统