设为首页 收藏本站
查看: 1424|回复: 0

[经验分享] 39、【华为HCIE-Storage】--对象存储原理

[复制链接]

尚未签到

发表于 2018-7-23 12:44:39 | 显示全部楼层 |阅读模式
  ------------------------------------重要说明------------------------------------
  以下部分内容来网络,部分自华为存储官方教材
  具体教材内容请移步华为存储官网进行教材下载
  网络引用内容无法找到原创,如有侵权请通知
  ------------------------------------重要说明------------------------------------
① 统一命名空间
DSC0000.jpg

  DFS分布式文件系采用全对称结构, 将所有节点的命名空间整合为统一命名空间, 将整个系统的所有节点的存储容量组成一个大的虚拟存储池, 元数据和数据保存在每个节点上, 每个节点都是元数据服务器同时也是数据服务器, 访问文件数据时DFS文件系统首先定位到文件所归属的元数据服务器, 然后通过元数据服务器获取文件的数据分布, 即获取文件分布在哪些节点上以及在节点上的具体位置, 再去访问这些节点完成数据读写操作。
  支持最大60PB全局命名空间, 用户不用管理多个命名空间, 从而减轻管理复杂度。 消除多个命名空间, 也消除了多个命名空间带来的数据孤岛。
DSC0001.jpg

  传统数据存储方式是将磁盘映射成分块, 文件系统管理分块, 并使用元数据来标记分块使用情况。 对象存储访问不关注分块, 看到的是一个个的对象, 上层使用对象名来访问。 这种对象系统通常是扁平化的, 区别于文件系统。
  虚拟化借鉴了两种优势, 一方面把底层以对象方式管理, 简化了管理方式和元数据开销;另一方面, 上层在虚拟出的对象基础上仍然构建成文件系统树形结构。
② 文件系统的功能和组织
DSC0002.jpg

③ 元数据
DSC0003.jpg

  元数据,描述数据的数据。由Dentry(目录项)和Inode(索引节点)组成。Dentry记录着文件名,上级目录等信息,形成了树状结构;而有关该对象的组织和管理信息主要存放Inode里面,记录着对象的KeyID和对象在存储介质上的位置与信息。
④ 元数据对象和数据对象
DSC0004.jpg

  数据对象是由一组stripe(分条)组成,而分条有Erasure Code矩阵运算生成。
  对象(Object)是对象存储系统的基础单元,包含文件数据以及相关的属性信息,具有唯一的KeyID,可进行自我管理。由于对象规模仅受KeyID的位数限制,因此拥有着接近无限的扩展能力。
⑤ 元数据的存储与访问
DSC0005.jpg

  使用动态子树方式组织元数据。
  将命名空间中的所有元数据按照名字子树的方式划分, 每棵名字子树划分给一个MDS处理。 一个MDS可以管理若干棵子树。
  正常处理流程: CA将报文发给任意一个MDS, 该MDS查询本地动态子树表, 如果属于本地MDS处理范围, 则直接处理; 如果不属于则将该请求转交给负责该名字子树的MDS( 如果无法直接找到, 则转给最可能负责该名字子树的MDS) 。
  故障迁移:一台MDS故障后, 其他MDS将分担故障MDS负责管理的名字子树。
  负载均衡:当MDS数组增减或某个MDS负责的名字子树访问过冷/过热时, 会采用负载均衡策略, 将过热节点上的名字子树部分迁移到较冷节点管理。
  注意:这里讲的是元数据的缓存, 与元数据实际存放的位置不同。 元数据实际按M+2存放在各节点的硬盘中, 与系统运行时缓存的位置可能并不相同。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-540165-1-1.html 上篇帖子: 华为交换机STP简单应用实例 下篇帖子: 36、【华为HCIE-Storage】--远程复制
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表