闵伟
- 作品数:11 被引量:7H指数:1
- 供职机构:河海大学更多>>
- 发文基金:国家自然科学基金国家科技支撑计划中央高校基本科研业务费专项资金更多>>
- 相关领域:自动化与计算机技术更多>>
- 一种基于动态镜像的实时数据仓库数据预存取方法
- 本发明公开了一种基于动态镜像的实时数据仓库预存取方法。所述方法包括以下步骤,首先,建立基于实时数据仓库的分类ETL结构;然后,在数据仓库外部构建动态存储区域,动态存储区域由多个数据镜像与基于双重链接的镜像索引组成;最后,...
- 毛莺池王久龙闵伟平萍贾必聪
- 文献传递
- 基于动态镜像的实时数据仓库存取处理技术被引量:1
- 2015年
- 实时数据仓库是数据仓库技术的重要分支,而实时数据查询和实时数据导入引发的查询竞争问题一直是实时数据仓库技术研究的重点之一。查询竞争问题严重影响查询分析的精度和效率,本文提出一种动态镜像技术,该技术在数据仓库外部构建动态存储区域;同时,本文对传统ETL技术进行了改进。基于TPC-H基准的实时数据仓库测试系统对动态镜像技术下的OLAP性能进行了分析与评估。实验结果显示,实时查询效率提高了50%,平均查询精度达到93%。
- 毛莺池闵伟接青朱沥沥
- 关键词:实时数据仓库
- 一种基于HDFS的小文件优化存储方法
- 本发明公开一种基于HDFS的小文件优化存储方法,提高HDFS对小文件的读取效率,提升系统的整体性能。包括以下步骤:1)小文件合并与存储预处理,通过对文件过滤、小文件合并、元数据的生成、对象ID的生成实现小文件存储预处理。...
- 毛莺池闵伟戚荣志陈曦王康任道宁
- 文献传递
- 一种基于HDFS的小文件优化存储方法
- 本发明公开一种基于HDFS的小文件优化存储方法,提高HDFS对小文件的读取效率,提升系统的整体性能。包括以下步骤:1)小文件合并与存储预处理,通过对文件过滤、小文件合并、元数据的生成、对象ID的生成实现小文件存储预处理。...
- 毛莺池闵伟戚荣志陈曦王康任道宁
- 文献传递
- 基于时间约束条件下的云计算关联任务调度方法和装置
- 本发明公开了一种基于时间约束条件下的云计算关联任务调度方法和装置,所述方法包括以下步骤,首先,使用构建DAG图的方法来表示关联任务组中任务之间的关联关系;然后,采用将DAG图分层的思想,将处于同一层中的非关联任务划分进同...
- 毛莺池陈曦平萍朱沥沥接青闵伟
- 面向实时性需求变化的云计算任务调度方法
- 本发明公开了一种面向实时性需求变化的云计算任务调度方法,属于云计算技术领域。本发明根据用户请求的任务对实时性需求的不同,将请求的任务按任务分级函数计算出的值将任务的优先级分成三个等级,对不同等级的任务采用不同的调度策略分...
- 毛莺池陈曦戚荣志李水艳闵伟王康
- 文献传递
- 基于动态镜像的实时数据仓库存取预处理技术研究被引量:6
- 2015年
- 实时数据仓库是数据仓库技术的重要分支,而实时数据查询和实时数据导入引发的查询竞争问题一直是实时数据仓库技术研究的重点之一。查询竞争问题严重影响了查询分析的精度和效率,还降低了数据仓库的性能。提出了一种在数据仓库外部构建动态存储区域的方法,它采用动态镜像技术,有效地缓解查询竞争问题。同时,为了提高实时OLAP上的查询分析操作的性能,提出了蝇量级物化方法及蝇量级物化下的表连接算法FWMJoin(FlyWeight Materialization Join)。基于TPC-H基准的实时数据仓库测试系统,针对动态镜像技术下的动态存储区域的OLAP性能进行分析与评估,并对实验结果进行总结。
- 毛莺池闵伟接青朱沥沥
- 关键词:实时数据仓库
- 一种面向防洪减灾领域的水利大数据存取系统及方法
- 本发明公开了一种面向防洪减灾领域的水利大数据存取系统与方法,所述存取系统包括对象索引库、对象编码标识、数据存储HDFS、对象信息库、对象分类器五个部分,使用自定义的编码规则对水利系统中的各个部门、水利单元进行编码,根据编...
- 毛莺池王久龙平萍顾刚戚荣志任道宁闵伟
- 文献传递
- 面向实时性需求变化的云计算任务调度方法
- 本发明公开了一种面向实时性需求变化的云计算任务调度方法,属于云计算技术领域。本发明根据用户请求的任务对实时性需求的不同,将请求的任务按任务分级函数计算出的值将任务的优先级分成三个等级,对不同等级的任务采用不同的调度策略分...
- 毛莺池陈曦戚荣志李水艳闵伟王康
- 基于时间约束条件下的云计算关联任务调度方法和装置
- 本发明公开了一种基于时间约束条件下的云计算关联任务调度方法和装置,所述方法包括以下步骤,首先,使用构建DAG图的方法来表示关联任务组中任务之间的关联关系;然后,采用将DAG图分层的思想,将处于同一层中的非关联任务划分进同...
- 毛莺池陈曦平萍朱沥沥接青闵伟
- 文献传递