黄秋兰
- 作品数:29 被引量:101H指数:6
- 供职机构:中国科学院高能物理研究所更多>>
- 发文基金:国家自然科学基金中国科学院知识创新工程更多>>
- 相关领域:自动化与计算机技术理学机械工程更多>>
- 高能同步辐射光源科学数据处理平台规划与设计被引量:7
- 2020年
- 【目的】高能同步辐射光源(HEPS)是我国“十三五”期间优先建设的、为国家的重大战略需求和前沿基础科学研究提供技术支撑平台的国家重大科技基础设施,开展超高空间分辨、时间分辨、能量分辨的高通量同步辐射实验。其一期建设的十五条光束线实验站,预计平均每天产生200TB的原始实验数据,峰值可达每天500TB。这些实验数据需要得到存储、共享,并能够进行准确实时的处理与分析。【方法】科学数据处理平台包括基础设施、科学软件、网络、计算、存储、公共信息服务等系统。【结果】该平台将为HEPS设施、科研人员、工程技术人员以及用户提供包括设数据传输、数据存储、数据分析、数据共享、科研协同等在内的网络、计算、存储等基础设施能力,以及提供科学软件、通用软件、通用信息系统和网络信息安全服务等。
- 齐法制黄秋兰胡皓田浩来田浩来汪璐王彦明赵海峰张红梅
- 关键词:数据存储数据共享
- 支持AFS环境的批作业管理系统PAFSI的研究与实现
- 采用TORQUE+Maui 作为作业管理系统,以及AFS 作为共享文件系统是实现大规模集群系统的常用技术之一。但是,目前在AFS 环境中向TORQUE 提交作业还存在一些问题。由于AFS 系统采用Kerberos 认证机...
- 黄秋兰Fabio Hernandez石京燕程耀东陈刚
- 关键词:系统架构
- 基于键值对系统实现树形目录结构的数据存储系统及方法
- 本申请公开了一种基于键值对k-v系统实现树形目录结构的数据存储系统服务端,用于与数据存储系统客户端通信以进行文件的写入和读取,包括:目录服务器集群,由若干个目录服务器组成,用于存储所写入文件的目录信息并以树形目录结构的形...
- 黄秋兰程耀东汪璐
- 文献传递
- 高能物理计算环境中存储系统的设计与优化
- 高能物理是典型的数据密集型计算,数据访问性能对整个系统至关重要,而数据访问性能与应用的计算模式密切相关。本文从剖析高能物理的典型计算模式入手,总结出其数据访问的特点,提出针对操作系统I/O 调度、分布式文件系统缓存等多个...
- 程耀东汪璐黄秋兰陈刚
- 关键词:海量存储LUSTRE
- 基于键值对系统实现树形目录结构的数据存储系统及方法
- 本申请公开了一种基于键值对k-v系统实现树形目录结构的数据存储系统服务端,用于与数据存储系统客户端通信以进行文件的写入和读取,包括:目录服务器集群,由若干个目录服务器组成,用于存储所写入文件的目录信息并以树形目录结构的形...
- 黄秋兰程耀东汪璐
- 文献传递
- Kubernetes异构资源细粒度调度策略的设计与实现被引量:5
- 2023年
- 在异构资源环境中高效利用计算资源是提升任务效率和集群利用率的关键。Kuberentes作为容器编排领域的首选方案,在异构资源调度场景下调度器缺少GPU细粒度信息无法满足用户自定义需求,并且CPU/GPU节点混合部署下调度器无法感知异构资源从而导致资源竞争。综合考虑异构资源在节点上的分布及其硬件状态,提出一种基于Kubernetes的CPU/GPU异构资源细粒度调度策略。利用设备插件机制收集每个节点上GPU的详细信息,并将GPU资源指标提交给调度算法。在原有CPU和内存过滤算法的基础上,增加自定义GPU信息的过滤,从而筛选出符合用户细粒度需求的节点。针对CPU/GPU节点混合部署的情况,改进调度器的打分算法,动态感知应用类型,对CPU和GPU应用分别采用负载均衡算法和最小最合适算法,保证异构资源调度策略对不同类型应用的正确调度,并且在CPU资源不足的情况下充分利用GPU节点的碎片资源。通过对GPU细粒度调度和CPU/GPU节点混合部署情况下的调度效果进行实验验证,结果表明该策略能够有效进行GPU调度并且避免资源竞争。
- 刘志彬黄秋兰胡庆宝程耀东胡誉田浩来
- 关键词:异构资源资源调度
- 高能物理计算环境中KVM虚拟机性能优化与应用
- 高能物理是典型的高性能计算的应用,对CPU计算能力要求很高,并且CPU的利用率高低直接影响高能物理的计算效率。虚拟化技术在实现资源共享和资源高利用率万面表现出很大的优势。本文基于KVM(Kemel—basedvirtua...
- 黄秋兰李莎程耀东陈刚
- 关键词:KVM
- 高能物理云平台中的弹性计算资源管理机制被引量:3
- 2017年
- 虚拟化技术作为一种新的资源管理技术,正在高能物理领域得到越来越广泛的应用。静态虚拟机集群方式已经逐渐不能满足多作业队列对于计算资源动态的需求。为此,实现了一种云计算环境下面向多作业队列的弹性计算资源管理系统。系统通过高吞吐量计算系统HTCondor运行计算作业,使用开源的云计算平台Openstack管理虚拟计算节点,给出了一种结合虚拟资源配额服务,基于双阈值的弹性资源管理算法,实现资源池整体伸缩,同时设计了二级缓冲池以提高伸缩效率。目前系统已部署在高能所公共服务云IHEPCloud上,实际运行结果表明,当计算资源需求变化时系统能够动态调整各队列虚拟计算节点数量,同时计算资源的CPU利用率相比传统的资源管理方式有显著的提高。
- 程振京李海波黄秋兰程耀东陈刚
- 关键词:动态调度OPENSTACK
- 基于openstack的虚拟资源调度技术研究
- 传统的高能物理计算系统基于物理机集群,主要通过Torque、Condor、LSF等资源管理和作业调度系统将作业调度到物理机器上运行,缺少对虚拟化计算的接口支持.本文选取Openstack作为底层虚拟化平台,设计并实现上层...
- 李海波黄秋兰石京燕程耀东
- 关键词:高能物理云计算虚拟集群资源调度
- 文献传递
- GRASS文件预留系统的设计与实现被引量:3
- 2011年
- GRASS(Grid-enabled Advanced Storage System)分级存储系统主要负责提供海量数据的分级存储管理和数据迁移功能。目前,GRASS系统的数据迁移仅包含存储池水位、数据迁移时间间隔等系统级别的策略,而缺乏针对文件的精细控制。针对该问题,设计了GRASS文件预留系统,实现基于用户级的数据预留,目的是为了高能物理的研究人员可以根据需要将自己指定的文件预留在磁盘上,从而避免自己要访问的文件被迁移到磁带库中去,从而提高用户访问数据的速度。首先介绍了GRASS系统,并给出了GRASS文件预留系统的基本架构,接着详细阐述系统的设计和实现,最后给出了系统的运行结果及测试分析。
- 黄秋兰朱随江程耀东陈刚
- 关键词:BESGRASS数据迁移