分布式存储系统

搜鞥都哦

第1章 GlusterFS分布式文件系统使用介绍
1.1 Glusterfs概述
　　GlusterFS是Scale-Out存储解决方案Gluster的核心，它是一个开源的分布式文件系统，具有强大的横向扩展能力，通过扩展能够支持数PB存储容量和处理数千客户端。GlusterFS借助TCP/IP或InfiniBand RDMA网络将物理分布的存储资源聚集在一起，使用单一全局命名空间来管理数据。GlusterFS基于可堆叠的用户空间设计，可为各种不同的数据负载提供优异的性能。
　　GlusterFS支持运行在任何标准IP网络上标准应用程序的标准客户端，如图2所示，用户可以在全局统一的命名空间中使用NFS/CIFS等标准协议来访问应用数据。GlusterFS使得用户可摆脱原有的独立、高成本的封闭存储系统，能够利用普通廉价的存储设备来部署可集中管理、横向扩展、虚拟化的存储池，存储容量可扩展至TB/PB级。GlusterFS主要特征如下：


1.1.1 扩展性和高性能
　　GlusterFS利用双重特性来提供几TB至数PB的高扩展存储解决方案。Scale-Out架构允许通过简单地增加资源来提高存储容量和性能，磁盘、计算和I/O资源都可以独立增加，支持10GbE和InfiniBand等高速网络互联。Gluster弹性哈希（Elastic Hash）解除了GlusterFS对元数据服务器的需求，消除了单点故障和性能瓶颈，真正实现了并行化数据访问。


1.1.2 高可用性
　　GlusterFS可以对文件进行自动复制，如镜像或多次复制，从而确保数据总是可以访问，甚至是在硬件故障的情况下也能正常访问。自我修复功能能够把数据恢复到正确的状态，而且修复是以增量的方式在后台执行，几乎不会产生性能负载。GlusterFS没有设计自己的私有数据文件格式，而是采用操作系统中主流标准的磁盘文件系统（如EXT3、ZFS）来存储文件，因此数据可以使用各种标准工具进行复制和访问。


1.1.3 全局统一命名空间
　　全局统一命名空间将磁盘和内存资源聚集成一个单一的虚拟存储池，对上层用户和应用屏蔽了底层的物理硬件。存储资源可以根据需要在虚拟存储池中进行弹性扩展，比如扩容或收缩。当存储虚拟机映像时，存储的虚拟映像文件没有数量限制，成千虚拟机均通过单一挂载点进行数据共享。虚拟机I/O可在命名空间内的所有服务器上自动进行负载均衡，消除了SAN环境中经常发生的访问热点和性能瓶颈问题。


1.1.4 弹性哈希算法
　　GlusterFS采用弹性哈希算法在存储池中定位数据，而不是采用集中式或分布式元数据服务器索引。在其他的Scale-Out存储系统中，元数据服务器通常会导致I/O性能瓶颈和单点故障问题。GlusterFS中，所有在Scale-Out存储配置中的存储系统都可以智能地定位任意数据分片，不需要查看索引或者向其他服务器查询。这种设计机制完全并行化了数据访问，实现了真正的线性性能扩展。


1.1.5 弹性卷管理
　　数据储存在逻辑卷中，逻辑卷可以从虚拟化的物理存储池进行独立逻辑划分而得到。存储服务器可以在线进行增加和移除，不会导致应用中断。逻辑卷可以在所有配置服务器中增长和缩减，可以在不同服务器迁移进行容量均衡，或者增加和移除系统，这些操作都可在线进行。文件系统配置更改也可以实时在线进行并应用，从而可以适应工作负载条件变化或在线性能调优。


1.1.6 基于标准协议
　　Gluster存储服务支持NFS, CIFS, HTTP, FTP以及Gluster原生协议，完全与POSIX标准兼容。现有应用程序不需要作任何修改或使用专用API，就可以对Gluster中的数据进行访问。这在公有云环境中部署Gluster时非常有用，Gluster对云服务提供商专用API进行抽象，然后提供标准POSIX接口。


1.1.7 术语介绍
　　Brick:GFS中的存储单元，通过是一个受信存储池中的服务器的一个导出目录。可以通过主机名和目录名来标识，如'SERVER:EXPORT'
　　Client: 挂载了GFS卷的设备
　　Extended Attributes:xattr是一个文件系统的特性，其支持用户或程序关联文件/目录和元数据。
　　FUSE:Filesystem Userspace是一个可加载的内核模块，其支持非特权用户创建自己的文件系统而不需要修改内核代码。通过在用户空间运行文件系统的代码通过FUSE代码与内核进行桥接。
　　Geo-Replication
　　GFID:GFS卷中的每个文件或目录都有一个唯一的128位的数据相关联，其用于模拟inode
　　Namespace:每个Gluster卷都导出单个ns作为POSIX的挂载点
　　Node:一个拥有若干brick的设备
　　RDMA:远程直接内存访问，支持不通过双方的OS进行直接内存访问。
　　RRDNS:round robin DNS是一种通过DNS轮转返回不同的设备以进行负载均衡的方法
　　Self-heal:用于后台运行检测复本卷中文件和目录的不一致性并解决这些不一致。
　　Split-brain:脑裂
　　Translator:
　　Volfile:glusterfs进程的配置文件，通常位于/var/lib/glusterd/vols/volname
　　Volume:一组bricks的逻辑集合
1.1.18 Glusterfs架构组成

1.2 GlusterFS技术特点
1.2.1 完全软件实现（Software Only）
　　GlusterFS认为存储是软件问题，不能够把用户局限于使用特定的供应商或硬件配置来解决。GlusterFS采用开放式设计，广泛支持工业标准的存储、网络和计算机设备，而非与定制化的专用硬件设备捆绑。对于商业客户，GlusterFS可以以虚拟装置的形式交付，也可以与虚拟机容器打包，或者是公有云中部署的映像。开源社区中，GlusterFS被大量部署在基于廉价闲置硬件的各种操作系统上，构成集中统一的虚拟存储资源池。简而言之，GlusterFS是开放的全软件实现，完全独立于硬件和操作系统。


1.2.2 完整的存储操作系统栈（Complete Storage Operating System Stack）
　　GlusterFS不仅提供了一个分布式文件系统，而且还提供了许多其他重要的分布式功能，比如分布式内存管理、I/O调度、软RAID和自我修复等。GlusterFS汲取了微内核架构的经验教训，借鉴了GNU/Hurd操作系统的设计思想，在用户空间实现了完整的存储操作系统栈。


1.2.3 用户空间实现（User Space）
　　与传统的文件系统不同，GlusterFS在用户空间实现，这使得其安装和升级特别简便。另外，这也极大降低了普通用户基于源码修改GlusterFS的门槛，仅仅需要通用的C程序设计技能，而不需要特别的内核编程经验。


1.2.4 模块化堆栈式架构（Modular Stackable Architecture）
　　GlusterFS采用模块化、堆栈式的架构，可通过灵活的配置支持高度定制化的应用环境，比如大文件存储、海量小文件存储、云存储、多传输协议应用等。每个功能以模块形式实现，然后以积木方式进行简单的组合，即可实现复杂的功能。比如，Replicate模块可实现RAID1，Stripe模块可实现RAID0，通过两者的组合可实现RAID10和RAID01，同时获得高性能和高可靠性。

1.2.5 原始数据格式存储（Data Stored in Native Formats）
　　GlusterFS以原始数据格式（如EXT3、EXT4、XFS、ZFS）储存数据，并实现多种数据自动修复机制。因此，系统极具弹性，即使离线情形下文件也可以通过其他标准工具进行访问。如果用户需要从GlusterFS中迁移数据，不需要作任何修改仍然可以完全使用这些数据。
1.2.6 无元数据服务设计（No Metadata with the Elastic Hash Algorithm）
　　对Scale-Out存储系统而言，最大的挑战之一就是记录数据逻辑与物理位置的映像关系，即数据元数据，可能还包括诸如属性和访问权限等信息。传统分布式存储系统使用集中式或分布式元数据服务来维护元数据，集中式元数据服务会导致单点故障和性能瓶颈问题，而分布式元数据服务存在性能负载和元数据同步一致性问题。特别是对于海量小文件的应用，元数据问题是个非常大的挑战。
　　GlusterFS独特地采用无元数据服务的设计，取而代之使用算法来定位文件，元数据和数据没有分离而是一起存储。集群中的所有存储系统服务器都可以智能地对文件数据分片进行定位，仅仅根据文件名和路径并运用算法即可，而不需要查询索引或者其他服务器。这使得数据访问完全并行化，从而实现真正的线性性能扩展。无元数据服务器极大提高了GlusterFS的性能、可靠性和稳定性。


1.3 Glusterfs安装部署
1.3.1 实验环境
　　系统版本：Linux CentOS release 6.9 (Final)
　　系统内核：2.6.32-696.23.1.el6.x86_64
　　Glusterfs软件版本：3.10.12
　　Node1:192.168.1.111
　　Node2:192.168.1.112


1.3.2 服务端部署
　　yum -y install centos-release-gluster310 #安装glusterfs yum源
　　yum install -y libgssglue libtirpc rpcbind lvm2-develyum list glusterfs libaio  #安装依赖关系
　　yum install -y atop fio iperf #安装测试工具
　　yum install -y glusterfs-libs glusterfs glusterfs-api glusterfs-cli glusterfs-client-xlators glusterfs-fuse glusterfs-server #安装glusterfs服务端软件
　　mkfs.ext4 /dev/sdb #格式化文件系统
　　mount /dev/sdb /storage/brick1/ 挂载文件系统
　　mount #查看
　　vim /etc/fstab #设置开机自动挂载
　　/dev/sdb /storage/brick1 exit4 defaults 0 0
　　service glusterd start #启动gluster服务
　　chkconfig glusterd on #gluster服务开机自启动
　　gluster peer probe node2 #将主机加入到集群
　　gluster peer status #查看节点状态
　　=====================================================
　　创建分布式哈希卷：
　　gluster volume create testol node2:/storage/brick1/b1 #创建 一个卷 testol 到/storage/brick1/b1 这个目录下
　　gluster volume start testol #启动testol这个卷
　　gluster volume rebalance testol fix-layout start #哈希范围重新分配，一般做完数据迁移或者添加新的brick做完负载后执行这条命令
　　=====================================================
　　删除一个卷（最好先将mount挂载的客户端卸载后在删除）：
　　gluster volume stop testol #先将卷停止
　　gluster volume delete testol #然后删除
　　PS：删除卷后，数据还在，如果觉得不需要可以将数据删掉
　　====================================================
　　删除一个brick
　　gluster volume remove-brick [replica]...
　　====================================================
　　负载均衡：（删除brick后对其他的卷进行负载均衡）
　　gluster volume rebalance VOLNAME {start|stop|}[force]
　　====================================================
　　创建一个复制卷：
　　gluster volume create testvol replica 2 node2:/storage/brick1/b2 #创建一个复制卷


1.3.3 客户端软件安装
　　yum install -y glusterfs-fuse glusterfs-libs glusterfs #客户端要安装的软件
　　mount -t glusterfs node1:testvol /mnt #客户端挂载，注意做好hosts解析。