加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 教程 > 正文

高机能计较常识:深度理会Lustre系统布局

发布时间:2018-07-04 19:59:44 所属栏目:教程 来源:米搓
导读:【资讯】Lustre架构是一种集群存储系统布局,其焦点组件就是Lustre文件体系。该文件体系可在Linux操纵体系上运行,并提供了切合POSIX尺度的UNIX文件体系接口。 Lustre文件体系是什么 Lustre架构用于很多差异种类的集群。众所周知,它处事于很多环球最大的

  一个Lustre安装实例包罗打点处事器(MGS)和一个或多个与Lustre收集(LNet)互连的Lustre文件体系。Lustre文件体系组件的根基设置如下图所示:

  高机能计较常识: 深度理会Lustre系统布局

  打点处事器(MGS)

  MGS存储集群中全部Lustre文件体系的设置信息,并将此信息提供应其他Lustre组件。每个Lustre方针(target)通过接洽MGS提供信息,而Lustre客户通过接洽MGS获守信息。MGS最好有本身的存储空间,以便可以独立打点。但同时,MGS可以与MDS放在一路,并共享存储空间,如上图中所示。

  Lustre文件体系组件

  元数据处事器(MDS): MDS使存储在一个或多个MDT中的元数据可供Lustre客户端行使。每个MDS打点Lustre文件体系中的名称和目次,并为一个或多个当地MDT提供收集哀求处理赏罚。

  元数据方针(MDT): 在Lustre 2.3或更早版本中,每个文件体系只有一个MDT。 MDT在MDS的附加存储上存储元数据(譬喻文件名,目次,权限和文件机关)。固然共享存储方针上的MDT可用于多个MDS,但一次只能有一个MDS可以会见。假如当前MDS产生妨碍,则备用MDS可觉得MDT提供处事,并将其提供应客户端。这被称为MDS妨碍切换。

  在Lustre 2.4中,漫衍式定名空间情形(DNE)中可支持多个MDT。除生涯文件体系根目次的主MDT之外,还可以添加其他MDS节点,每个MDS节点都有本身的MDT,以生涯文件体系的子目次树。

  在Lustre 2.8中,DNE还应承文件体系将单个目次的文件漫衍到多个MDT节点。漫衍在多个MDT上的目次称为条带化目次。

  工具存储处事器(OSS):OSS为一个或多个当地OST提供文件I / O处事和收集哀求处理赏罚。凡是,OSS处事于两个到八个OST,每个最多16TB;在专用节点上设置一个MDT;在每个OSS节点上设置两个或更多OST;而在大量计较节点上设置客户端。

  工具存储方针(OST):用户文件数据存储在一个或多个工具中,每个工具位于Lustre文件体系的单独OST中。每个文件的工具数由用户设置,并可按照事变负载环境调试到最优机能。

  Lustre客户端:Lustre客户端是运行Lustre客户端软件的计较、可视化或桌面节点,可挂载Lustre文件体系。

  Lustre客户端软件为Linux假造文件体系和Lustre处事器之间提供了接口。客户端软件包罗一个打点客户端(MGC),一个元数据客户端(MDC)和多个工具存储客户端(OSC)。每个OSC对应于文件体系中的一个OST。

  逻辑工具卷(LOV)通过聚合OSC以提供对全部OST的透明会见。因此,挂载了Lustre文件体系的客户端会看到一个连贯的同步名字空间。多个客户端可以同时写入统一文件的差异部门,而其他客户端可以同时读取文件。

  与LOV文件会见方法相同,逻辑元数据卷(LMV)通过聚合MDC提供一种对全部MDT透明的会见。这使得了客户端可将多个MDT上的目次树视为一个单一的连贯名字空间,并将条带化目次归并到客户端形成一个单一目次以便用户和应用措施查察。

  高机能计较常识: 深度理会Lustre系统布局

  Lustre收集 (LNet)

  Lustre Networking(LNet)是一种定制收集API,提供处理赏罚Lustre文件体系处事器和客户端的元数据和文件I/O数据的通讯基本办法。

  Lustr文件体系 集群

  在局限上,一个Lustre文件体系集群可以包括数百个OSS和数千个客户端(如下图所示)。 Lustre集群中可以行使多种范例的收集,OSS之间的共享存储启用妨碍切换成果。

  高机能计较常识: 深度理会Lustre系统布局

  Lustre文件体系存储与I/O

  在 Lustre 2.0 中引入了Lustre文件标识符(FID)来替代用于辨认文件或工具的UNIX inode编号。 FID是一个128位的标识符,个中,64位用于存储独一的序列号,32位用于存储工具标识符(OID),其它32位用于存储版本号。序列号在文件体系(OST和MDT)中的全部Lustre方针中都是独一的。这一改变使将来支持多种 MDT 和ZFS(均在Lustre 2.4中引入)成为了也许。

  同时,在此版本中也引入了一个名为FID-in-dirent(也称为Dirdata)的ldiskfs成果,FID作为文件名称的一部门存储在父目次中。该成果通过镌汰磁盘I/O明显进步了ls呼吁执行的机能。 FID-in-dirent是在建设文件时天生的。

  在 Lustre 2.4 中,LFSCK文件系同同等性搜查器材提供了对现有文件启用FID-in-dirent的成果。详细如下:

  为1.8版本文件体系上现有文件天生IGIF模式的FID。

  验证每个文件的FID-in-dirent,如其无效或丢失,则从头天生FID-in-dirent。

  验证每个linkEA条目,如其无效或丢失,则从头天生。 linkEA由文件名和父类FID构成,它作为扩展属性存储在文件自己中。因此,linkEA可以用来重建文件的完备路径名。

  有关文件数据在OST上的位置信息将作为扩展属性机关EA,存储在由FID标识的MDT工具中(详细如下图所示)。若该文件是平凡文件(即不是目次或标记链接),则MDT工具1对N地指向包括文件数据的OST工具。若该MDT文件指向一个工具,则全部文件数据都存储在该工具中。若该MDT文件指向多个工具,则行使RAID 0将文件数据分别为多个工具,将每个工具存储在差异的OST上。

  高机能计较常识: 深度理会Lustre系统布局

  当客户端读写文件时,起首从文件的MDT工具中获取机关EA,然后行使这个信息在文件上执行I / O,直接与存储工具的OSS节点举办交互。详细进程如下图所示。

  高机能计较常识: 深度理会Lustre系统布局

  Lustre文件体系的可用带宽如下:

  收集带宽便是OSS到方针的总带宽。

  磁盘带宽便是存储方针(OST)的磁盘带宽总和,受收集带脱期制。

  总带宽便是磁盘带宽和收集带宽的最小值。

  可用的文件体系空间便是全部OST的可用空间总和。

  Lustre文件体系条带化

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读