首页> 外文OA文献 >MPI-IO/Gfarm:分散ファイルシステムGfarmのためのMPI-IOの実装と評価
【2h】

MPI-IO/Gfarm:分散ファイルシステムGfarmのためのMPI-IOの実装と評価

机译:MPI-IO / Gfarm:分布式文件系统Gfarm的MPI-IO的实现和评估

摘要

本稿では,分散ファイルシステムGfarmのためのMPI-IO実装,MPI-IO/Gfarmについて述べる.Gfarmファイルシステムは広域にまたがる複数のクラスタ内の計算ノードのストレージをまとめ1つのネームスペースで管理することを可能にする.Gfarmファイルシステムは,計算ノードのローカルストレージの利用,ファイル複製の利用によりスケーラブルなファイルアクセス性能を実現している.しかし,MPI-IOにおける典型的なアクセスである複数のプロセスが単一のファイルに対して書き込みを行う場合においては,性能はスケールしない.本稿では以上の場合の性能改善を主な目的とし,最適化手法の提案と実装について述べる.性能評価では,IOR,HPIO,BTIOを用いた評価を行い,PVFS2,NFSとの比較を行った.提案手法を用いることでノード数に対してスケーラブルな結果が得られ,PVFS2との比較においても2倍から3倍程度MPI-IO/Gfarmが良い性能を示した.This paper proposes a design and implementation of an MPI-IO implementation of the Gfarm file system, called MPIO/Gfarm. The Gfarm file system is a global file system that federates the local storage of compute nodes among several clusters. It has a scale-out architecture designed to support distributed data-intensive computing. However Gfarm file system does not achieve scalable performance in the case of parallel writes to a single file, a typical file operation in MPI-IO. This paper proposes an optimization technique to improve the parallel write performance to a single file. In the evaluation using BT- IO, IOR and HPIO, MPI-IO/Gfarm achieves scalable parallel I/O performance. Compared with MPI-IO on PVFS2 and NFS, it achieves at most a 1.5x speedup of write performance and 2.0x to 3.0x speedup of read performance using seven storage nodes.
机译:本文介绍了MPI-IO实施,MPI-IO / Gfarm用于分布式文件系统Gfarm。 Gfarm文件系统使管理跨大范围的多个群集中的计算节点的存储并在单个名称空间中进行管理成为可能。 Gfarm文件系统通过使用计算节点的本地存储和文件复制来实现可扩展的文件访问性能。但是,当多个进程(即MPI-IO中的典型访问)写入单个文件时,性能不会提高。在本文中,我们主要针对上述情况提出了优化方法的改进和性能。在性能评估中,使用IOR,HPIO和BTIO进行评估,并与PVFS2和NFS进行了比较。通过使用所提出的方法,获得了关于节点数量的可伸缩结果,并且MPI-IO / Gfarm的性能好于PVFS2约2至3倍。本文提出了Gfarm文件系统的MPI-IO实现的设计和实现,称为MPIO / Gfarm。Gfarm文件系统是一个全局文件系统,它联合了多个群集之间的计算节点的本地存储。但是,在并行写入单个文件(MPI-IO中的典型文件操作)的情况下,Gfarm文件系统无法实现可伸缩的性能。本文提出了一种优化技术来改善并行处理将性能写入单个文件。在使用BT-IO,IOR和HPIO进行评估时,MPI-IO / Gfarm可实现可扩展的并行I / O性能。与PVFS2和NFS上的MPI-IO相比,最高可实现1.5倍的加速使用七个存储节点可实现写入性能的提升,并使读取性能提高2.0倍至3.0倍。

著录项

  • 作者

    木村 浩希; 建部修見;

  • 作者单位
  • 年度 2011
  • 总页数
  • 原文格式 PDF
  • 正文语种 ja
  • 中图分类

相似文献

  • 外文文献
  • 中文文献
  • 专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号