hadoop的ha如何实现?

2020-09-01 08:26发布

hadoop的ha如何实现?

hadoop的ha如何实现?

3条回答
冬瓜
2楼 · 2020-09-02 10:32

在2.0版本中,Namenode可以部署两个:Active NN和Standly NN。在同一时间永远都是只有一个NN对外提供服务的,即Active NN。Active NN并不永远都是一个固定的状态,当Active NN出现故障后,Standly NN就会切换成Active NN提供服务,而之前的Active NN就会变成Standly NN停止位集群服务。Standly NN负责同步Active NN中的元数据信息,也会接收Active NN的块报告,所有的DN上的Block Pool块报告的信息会同时发送到Active NN和Standly NN,这样他们的信息就能够达到同步。Edits日志只有Active状态的NameNode节点可以做写操作;两个NameNode都可以读取Edits;

milkmilk
3楼 · 2020-09-02 14:55

需要做HDFS HA的话,首先需要保证namenode中的fsimage和edits文件一致,需要产生的时候(格式化的时候)就保持一致。

  1. fsImage保证一致做法:需要在一台NameNode上生成后,拷贝到另外的NameNode上。

  2. 如何保证edits文件在所有NameNode一致?因为edits在HDFS文件发生变化时,edits文件就会发生变化,故需要借助第三方处理。

利用NFS,是FreeBSD支持的文件系统中的一种,它允许网络中的计算机之间通过TCP/IP网络共享资源,但是此种方式并不是真正意义上的高可用,在资源共享主机宕机后,就不可服务了。

采用QJM(Quorum Journal Manager)的方式进行高可用:所有的edits文件交由JN管理,即使NameNode挂了也没事。


猫的想法不敢猜
4楼 · 2022-02-16 09:32

在hadoop 1.x版本中,是没有ha的实现方式的,它只有可以看做是冷备份的Secondary NameNode来起到冷备份的作用的,当NameNode挂掉的时候,我们需要手工启动Secondary NameNode。


   那么为什么Secondary NameNode能够这样做,是因为SNN能够帮助NN做一些检查点的工作,会同步编辑日志和镜像文件,所以可以起到冷备的作用。在1.x版本中,当NN挂掉后,是没有办法立即启动起来继续为集群服务的。


    到了hadoop 2.x版本,基本都有了hdfs ha的功能(即热备功能),当主NN挂掉后,备NN会立即启动进而接管主NN为集群不间断的提供服务,保证集群对外是没有任何宕机的情况。

 接下来,我们根据上图来了解HA的方案是如何实现的?

 在2.0版本中,Namenode可以部署两个:Active NN和Standly NN。在同一时间永远都是只有一个NN对外提供服务的,即Active NN。Active NN并不永远都是一个固定的状态,当Active NN出现故障后,Standly NN就会切换成Active NN提供服务,而之前的Active NN就会变成Standly NN停止位集群服务。Standly NN负责同步Active NN中的元数据信息,也会接收Active NN的块报告,所有的DN上的Block Pool块报告的信息会同时发送到Active NN和Standly NN,这样他们的信息就能够达到同步。Edits日志只有Active状态的NameNode节点可以做写操作;两个NameNode都可以读取Edits;


元数据共享存储方案:


在NN中,最关键的元数据(镜像文件和编辑日志)是需要共享才能使ANN和SNN实现数据的同步,元数据共享有几种方案: NFS(Linux自带的网络文件系统)、QJM(Quorum Journal Manager)、zookeeper。


QJM的详细介绍请参考:https://blog.csdn.net/czz1141979570/article/details/86735695 


zookeeper:


    上图中也显示使用了zookeeper的方案来实现HA的高可用,在zookeeper中会有两个FailoverControlller进程,一个负责监控ANN状态,另一个负责监控SNN状态,FailoverControlller从ANN和SNN中获取监控状态,并将监控状态通过Heartbeat保存在zookeeper中的znode中,会占用一个znode保存这些监控信息。


   当ANN出现故障后,zookeeper会通过FailoverControlller感知到,这时候FailoverControlller Standly会让SNN占用znode,使SNN切换成ANN。


  所有zookeeper是实现HA自动切换的关键组成部分。如果没有zk,我们就没有办法实现HA的故障自动切换。


基于ZK的自动切换模式配置

HA的自动故障转移依赖于ZooKeeper的以下功能:


1)故障检测:集群中的每个NameNode在ZooKeeper中维护了一个持久会话,如果机器崩溃,ZooKeeper中的会话将终止,ZooKeeper通知另一个NameNode需要触发故障转移。


2)现役NameNode选择:ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。如果目前现役NameNode崩溃,另一个节点可能从ZooKeeper获得特殊的排外锁以表明它应该成为现役NameNode。


ZKFC是自动故障转移中的另一个新组件,是ZooKeeper的客户端,也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程,ZKFC负责:


1)健康监测:ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode,只要该NameNode及时地回复健康状态,ZKFC认为该节点是健康的。如果该节点崩溃,冻结或进入不健康状态,健康监测器标识该节点为非健康的。


2)ZooKeeper会话管理:当本地NameNode是健康的,ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode处于active状态,ZKFC也保持一个特殊的znode锁,该锁使用了ZooKeeper对短暂节点的支持,如果会话终止,锁节点将自动删除。


3)基于ZooKeeper的选择:如果本地NameNode是健康的,且ZKFC发现没有其它的节点当前持有znode锁,它将为自己获取该锁。如果成功,则它已经赢得了选择,并负责运行故障转移进程以使它的本地NameNode为Active。故障转移进程与前面描述的手动故障转移相似,首先如果必要保护之前的现役NameNode,然后本地NameNode转换为Active状态。

————————————————

版权声明:本文为CSDN博主「流一恩典」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。

原文链接:https://blog.csdn.net/czz1141979570/article/details/86738013

————————————————

版权声明:本文为CSDN博主「流一恩典」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。

原文链接:https://blog.csdn.net/czz1141979570/article/details/86738013


相关问题推荐

  • 什么是大数据时代?2021-01-13 21:23
    回答 100

    大数据(big data)一词越来越多地被提及,人们用它来描述和定义信息爆炸时代产生的海量数据,而这个海量数据的时代则被称为大数据时代。随着云时代的来临,大数据(Big data)也吸引了越来越多的关注。大数据(Big data)通常用来形容一个公司创造的大量非结...

  • 回答 84

    Java和大数据的关系:Java是计算机的一门编程语言;可以用来做很多工作,大数据开发属于其中一种;大数据属于互联网方向,就像现在建立在大数据基础上的AI方向一样,他两不是一个同类,但是属于包含和被包含的关系;Java可以用来做大数据工作,大数据开发或者...

  • 回答 52
    已采纳

    学完大数据可以从事很多工作,比如说:hadoop 研发工程师、大数据研发工程师、大数据分析工程师、数据库工程师、hadoop运维工程师、大数据运维工程师、java大数据工程师、spark工程师等等都是我们可以从事的工作岗位!不同的岗位,所具备的技术知识也是不一样...

  • 回答 29

    简言之,大数据是指大数据集,这些数据集经过计算分析可以用于揭示某个方面相关的模式和趋势。大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。大数据的特点:数据量大、数据种类多、 要求实时性强、数据所蕴藏的...

  • 回答 14

    tail -f的时候,发现一个奇怪的现象,首先 我在一个窗口中 tail -f test.txt 然后在另一个窗口中用vim编辑这个文件,增加了几行字符,并保存,这个时候发现第一个窗口中并没有变化,没有将最新的内容显示出来。tail -F,重复上面的实验过程, 发现这次有变化了...

  • 回答 18

    您好针对您的问题,做出以下回答,希望有所帮助!1、大数据行业还是有非常大的人才需求的,对于就业也有不同的岗位可选,比如大数据工程师,大数据运维,大数据架构师,大数据分析师等等,就业难就难在能否找到适合的工作,能否与你的能力和就业预期匹配。2、...

  • 回答 17

    最小的基本单位是Byte应该没多少人不知道吧,下面先按顺序给出所有单位:Byte、KB、MB、GB、TB、PB、EB、ZB、YB、DB、NB,按照进率1024(2的十次方)计算:1Byte = 8 Bit1 KB = 1,024 Bytes 1 MB = 1,024 KB = 1,048,576 Bytes 1 GB = 1,024 MB = 1,048,576...

  • 回答 33

    大数据的定义。大数据,又称巨量资料,指的是所涉及的数据资料量规模巨大到无法通过人脑甚至主流软件工具,在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。大数据是对大量、动态、能持续的数据,通过运用新系统、新工具、新...

  • 回答 5

    MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。MySQL的版本:针对不同的用户,MySQL分为两种不同的版本:MySQL Community Server社区版本,免费,但是Mysql不提供...

  • mysql安装步骤mysql 2022-05-07 18:01
    回答 2

    mysql安装需要先使用yum安装mysql数据库的软件包 ;然后启动数据库服务并运行mysql_secure_installation去除安全隐患,最后登录数据库,便可完成安装

  • 回答 5

    1.查看所有数据库showdatabases;2.查看当前使用的数据库selectdatabase();3.查看数据库使用端口showvariableslike'port';4.查看数据库编码showvariableslike‘%char%’;character_set_client 为客户端编码方式; character_set_connection 为建立连接...

  • 回答 5

    CREATE TABLE IF NOT EXISTS `runoob_tbl`(    `runoob_id` INT UNSIGNED AUTO_INCREMENT,    `runoob_title` VARCHAR(100) NOT NULL,    `runoob_author` VARCHAR(40) NOT NULL,    `submission_date` DATE,    PRI...

  • 回答 9

    学习多久,我觉得看你基础情况。1、如果原来什么语言也没有学过,也没有基础,那我觉得最基础的要先选择一种语言来学习,是VB,C..,pascal,看个人的喜好,一般情况下,选择C语言来学习。2、如果是有过语言的学习,我看应该一个星期差不多,因为语言的理念互通...

  • 回答 7

    添加语句 INSERT插入语句:INSERT INTO 表名 VALUES (‘xx’,‘xx’)不指定插入的列INSERT INTO table_name VALUES (值1, 值2,…)指定插入的列INSERT INTO table_name (列1, 列2,…) VALUES (值1, 值2,…)查询插入语句: INSERT INTO 插入表 SELECT * FROM 查...

  • 回答 5

    看你什么岗位吧。如果是后端,只会CRUD。应该是可以找到实习的,不过公司应该不会太好。如果是数据库开发岗位,那这应该是不会找到的。

  • 回答 7

    查找数据列 SELECT column1, column2, … FROM table_name; SELECT column_name(s) FROM table_name 

没有解决我的问题,去提问