学习 HDFS(四):高可用

栏目: 服务器 · 发布时间: 7年前

内容简介:HDFS 采用了主从(Master/Slave)架构,就不可避免的要面对单点失效(SPOF,Single Point of Failure)的问题。Hadoop 2.X 之后,提供了对高可用(HA)的支持,架构如下所示:在高可用 HDFS 集群中,存在多个 NameNode。其中,有且只有一个 NameNode 是 Active 状态,其它 NameNode 是 Standby 状态。只有 Active 状态的 NameNode 提供服务。如果多个 NameNode 同时提供服务,会产生脑裂(Split

架构

HDFS 采用了主从(Master/Slave)架构,就不可避免的要面对单点失效(SPOF,Single Point of Failure)的问题。Hadoop 2.X 之后,提供了对高可用(HA)的支持,架构如下所示:

学习 HDFS(四):高可用

主备切换

在高可用 HDFS 集群中,存在多个 NameNode。其中,有且只有一个 NameNode 是 Active 状态,其它 NameNode 是 Standby 状态。只有 Active 状态的 NameNode 提供服务。如果多个 NameNode 同时提供服务,会产生脑裂(Split Brain)的情况,从而增加了维护数据一致性的成本。

当 Active NameNode 发生故障,Standby NameNode 会变成 Active NameNode 继续提供服务,实现主备切换。

数据同步

Active NameNode 和 Standby NameNode 数据同步,通过 QJM(Quorum Journal Manager)实现。

为了理解 QJM 数据同步的原理,需要先理解 Hadoop 检查点(Checkpoint)机制。检查点机制用于从故障或重启快速恢复数据。

HDFS 元数据包含两种文件:

  • 命名空间镜像 fsimage 文件,包括文件系统目录树、文件/目录信息和文件件的数据块索引,位置在 dfs.namenode.name.dir 目录下;
  • 编辑日志 edits 文件,位置在 dfs.namenode.edits.dir 目录下。

旧的 fsimgage 通过重放 edits 编辑日志,生成新的 fsimage

学习 HDFS(四):高可用

集群中的 JournalNode,通常是至少3个节点,作用相当于共享存储。Active NameNode 向 JournalNode 写编辑日志数据,Standby NameNode 从 JournalNode 读编辑日志数据,从而实现了数据同步。

故障检测

在高可用 HDFS 集群中,ZKFC(Zookeeper Failover Controller)用于监控 NameNode,一个 Failover Controller 监控一个 NameNode,当 Active NameNode 不可用时,触发自动故障恢复。

参考


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

深入理解计算机系统(原书第2版)

深入理解计算机系统(原书第2版)

(美)Randal E.Bryant、David O'Hallaron / 龚奕利、雷迎春 / 机械工业出版社 / 2011-1-1 / 99.00元

本书从程序员的视角详细阐述计算机系统的本质概念,并展示这些概念如何实实在在地影响应用程序的正确性、性能和实用性。全书共12章,主要内容包括信息的表示和处理、程序的机器级表示、处理器体系结构、优化程序性能、存储器层次结构、链接、异常控制流、虚拟存储器、系统级I/O、网络编程、并发编程等。书中提供大量的例子和练习,并给出部分答案,有助于读者加深对正文所述概念和知识的理解。 本书的最大优点是为程序......一起来看看 《深入理解计算机系统(原书第2版)》 这本书的介绍吧!

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具