高机能计较常识：深度理会Lustre系统布局

　　【资讯】Lustre架构是一种集群存储系统布局，其焦点组件就是Lustre文件体系。该文件体系可在Linux操纵体系上运行，并提供了切合POSIX尺度的UNIX文件体系接口。

　　Lustre文件体系是什么

　　Lustre架构用于很多差异种类的集群。众所周知，它处事于很多环球最大的高机能计较(HPC)集群，提供了数以万计的客户端，PB级存储和每秒数百GB的吞吐量。很多HPC站点行使Lustre文件体系作为全站范畴的全局文件体系，为数十个聚集提供处事。

　　Lustre文件体系具有按需扩展容量和机能的手段，低落了陈设多个独立文件体系的须要性(如每个计较聚集陈设一个文件体系)，从而停止了在计较集群之间复制数据，简化了存储打点。Lustre文件体系不只可将很多处事器的存储容量举办聚合，也可将其I / O吞吐量举办聚合，并通过添置处事器举办扩展。通过动态地添加处事器，轻松实现整个集群的吞吐量和容量的晋升。

　　固然Lustre文件体系可以在很多事变情形中运行，但也并非就是全部应用措施的最佳选择。当单个处事器无法提供所需容量时，行使Lustre文件体系集群无疑是最得当的。在某些环境下，因为其强盛的锁定和数据同等性，纵然在单个处事器情形下Lustre文件体系也比其他文件体系示意得更好。

　　今朝，Lustre文件体系并不出格合用于“端对端”的用户模式。在这种模式下，客户端和处事器在统一节点上运行，每个节点共享少量存储。因为Lustre穷乏软件级此外数据副本，假如一个客户端或处事器产生妨碍，存储在该节点上的数据在该节点从头启动前将不行会见。

　　Lustre文件体系特征

　　Lustre文件体系可运行在各类厂商的内核上。一个Lustre文件体系在客户端节点数目、磁盘存储量、带宽长举办扩大或缩小。可扩展性和机能取决于可用磁盘、收集带宽以及体系中处事器的处理赏罚手段。

　　Lustre文件体系可以以多种设置举办陈设，这些设置的可扩展性远远超出了迄今所调查到出产体系中的局限和机能。下表中列出了一些Lustre文件体系的可扩展性和机能:

　　机能加强的ext4文件体系：Lustre文件体系行使改造版的ext4日记文件体系来存储数据和元数据。这个版本被定名为ldiskfs，不只机能有所晋升且提供了Lustre文件体系所需的附加成果。

　　Lustre 2.4或更高版本中，可行使ZFS作为Lustre的MDT，OST和MGS存储的后备文件体系。这使Lustre可以或许操作ZFS的可扩展性和数据完备性特征来实现单个存储方针。

　　切合POSIX尺度：通过完备的POSIX测试集，像测试当地文件体系Ext4一样，测试Lustre文件体系客户端，只有少少量破例。在集群中，大大都操纵都是原子操纵，因此客户端永久不会看到破坏的数据或元数据。 Lustre软件支持mmap()文件I / O操纵。

　　高机能异构收集：Lustre软件支持各类高机能低耽误的收集，可行使长途直接内存会见(RDMA)方法，实此刻InfiniBand、Intel OmniPath等高级收集上的快速高效收集传输。可行使Lustre路由桥接多个RDMA收集以得到最佳机能。Lustre软件同时也集成了收集诊断。

　　高可用性：Lustre文件体系通过OSTs(OSS targets)的共享存储分区实现主动/主动妨碍切换。 Lustre 2.3或更早版本通过行使MDT(MDS target)的共享存储分区实现主动/被动妨碍切换。 Lustre文件体系可以与各类高可用性(HA)打点器一路事变，以实现自动妨碍切换并消除了单点妨碍(NSPF)。这使得应用措施透明规复成为也许。多重挂载掩护(MMP)提供了对高可用性体系中错误的综合掩护，停止导致文件体系破坏。

　　Lustre 2.4或更高版本中，可设置多个MDT的主动/主动妨碍切换。这应承了通过添加MDT存储装备和MDS节点来扩展Lustre文件体系的元数据机能。

　　安详性：默认环境下，TCP毗连只应承授权端口通过。 UNIX构成员身份在MDS长举办验证。

　　会见节制列表(ACL)及扩展属性：Lustre安详模子遵循UNIX文件体系原则，并行使POSIX ACL举办加强。另外尚有一些特殊成果，如root squash。

　　互操纵性：Lustre文件体系可运行在各类CPU架构和巨细端殽杂的聚集上，持续宣布的Lustre首要软件版本之间保持互操纵性性。

　　基于工具的系统布局：客户端与磁盘文件布局彼此断绝，可在不影响客户端的环境下进级存储系统布局。

　　字节粒度文件锁和细粒度元数据锁：很多客户端可以同时读取和修改沟通的文件或目次。 Lustre漫衍式锁打点器(LDLM)确保了文件体系中全部客户端和处事器之间的文件是同等的。个中，MDT锁打点器认真打点inode权限和路径名。每个OST都有其本身的锁打点器，用于锁定存储在其上的文件条带，其机能可跟着文件体系巨细增添而扩展。

　　配额：用户、组和项目配额(User、Group、Project Quota)可用于Lustre文件体系。

　　容量增添：通过向聚集添加新的OST和MDT，可以在不间断处事的环境下增进Lustre文件体系的巨细和集群总带宽。

　　受控文件机关：可以在每个文件，每个目次或每个文件体系基本上设置跨OST的文件机关。这应承了在单个文件体系中调解文件I/O以顺应特定的应用措施要求。 Lustre文件体系行使RAID-0举办条带化并可在OST之间调理空间行使巨细。

　　收集数据完备性掩护：从客户端发送到OSS的全部数据的校验和可防备数据在传输时代被破坏。

　　MPI I/O：Lustre架构具有专用的MPI ADIO层，优化了并行I/O以匹配基本文件体系架构。

　　NFS和CIFS导出：可以行使NFS(通过Linux knfsd)或CIFS(通过Samba)将Lustre文件从头导出，使其可以与非Linux客户端(如Microsoft Windows和Apple Mac OS X)共享。

　　劫难规复器材：Lustre文件体系提供在线漫衍式文件体系搜查(LFSCK)，当产生首要文件体系错误的环境下规复存储组件之间的同等性。 Lustre文件体系在存在文件体系纷歧致的环境下也可以运行，而LFSCK可以在文件体系正在行使时运行，因此LFSCK不必要在文件体系规复出产之前完成。

　　机能监督：Lustre文件体系提供了多种机制来搜查机能和举办调解。

　　开放源代码：为在Linux操纵体系上运行，Lustre软件行使GPL 2.0容许证。

　　Lustre组件先容

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!