hdfs两个namenode的fsimage不同步

问题描述

发现active namenode上的fsimage是4月4日的,而standby namenode上的fsimage是4月21日。说明没有及时同步fsimage,担心后续切换可能会出问题。

定位

根据配置,fsimage至少每个小时就会同步一次,查看两个namenode的日志中相关记录:

Standby namenode:

2019-04-21 10:04:29,853 INFO org.apache.hadoop.hdfs.server.namenode.TransferFsImage: Uploaded image with txid 1260456917 to namenode at node05:50070 in 27.421 seconds

Active namanode:

2019-04-21 10:04:28,728 INFO org.apache.hadoop.hdfs.server.namenode.TransferFsImage: Downloaded file fsimage.ckpt_0000000001260456917 size 1109646913 bytes.

日志没有任何错误,说明fsimage的同步机制工作正常。

查看配置hdfs-site.xml中dfs.namenode.name.dir的配置,发现配置了两个目录:/disk1/hadoop/namenode_dir,/disk2/hadoop/namenode_dir

分别查看这两个目录,发现disk1的目录是不同步的,而disk2下的目录是正常同步了的。

继续追active namenode的日志,发现有很多针对disk2的操作,但一个针对disk1的都没有。而理论上,两个目录的操作完全一致才是正常的。

经过询问相关IT人员,4月4日disk1磁盘发生过写满的情况!

Active namenode发现目录不可用,应该会打印错误日志,不过时间过去太久,当时的日志已经被冲掉了。

后续

namenode发现目录不可用之后,后面不会再尝试读写该目录是否恢复可用了。

关注dfs.namenode.name.dir.restore参数的作用,待研究。

原文地址:https://www.cnblogs.com/libran108/p/10938207.html

时间: 2024-11-29 12:27:54

hdfs两个namenode的fsimage不同步的相关文章

HDFS Federation和NameNode HA的搭建

1. HDFS Federation产生背景 在Hadoop 1.0中,HDFS的单NameNode设计带来诸多问题,包括单点故障.内存受限制约集群扩展性和缺乏隔离机制(不同业务使用同一个NameNode导致业务相互影响)等,为了解决这些问题,Hadoop 2.0引入了基于共享存储的HA解决方案和HDFS Federation,这里重点介绍HDFS Federation. HDFS Federation是指HDFS集群可同时存在多个NameNode,这些NameNode分别管理一部分数据,且共享

hadoop 的HDFS 的 standby namenode无法启动事故处理

standby namenode无法启动 现象:线上使用的2.5.0-cdh5.3.2版本Hadoop,开启了了NameNode HA,HA采用QJM方式.hadoop的集群的namenode的standby节点宕掉,重启无法启动成功. 1. standby namenode出现异常时的现象 异常现象1: hadoop的集群的namenode的standby节点宕掉,重启无法启动成功.查看hadoop-hdfs-namenode-hostname.log,发现报出如下异常:" org.apach

<两台主机之间日志的同步>

首先要知道两台主机之间同步文件udp虽然安全性不高,但是它的同步速率远远高于tcp.这点是不可否认的. 我们以简单的为例: 服务端: 允许别的主机可以把日志同步到自己的主机上来. # vim /etc/rsyslog.conf $ModLoad imudp  //开启udp协议,添加udp模块. $UDPServerRun 514 /etc/init.d/rsyslog restart 重启使配置生效 # tail -f /var/log/messages  //动态监控日志 客户端 把日志往哪

rsync配置两台服务器之间的文件备份(同步)

rsync配置两台服务器之间的文件备份(同步) 前情提要 环境: 192.168.1.2 主服务器 centos 7.7 192.168.1.3 备份服务器 centos 7.7 rsync 安装(两台linux都需要安装) 在linux环境下,以centos为例,安装非常简单: [[email protected] ~]# yum install rsync rsync的配置文件(服务端配置) rsync 服务端安装完成之后是没有生成rsync.conf文件的,需要手动创建rsyncd.con

HDFS中的NameNode和DataNode

HDFS集群中以Master-Slave模式运行,主要有两类节点:一个Namenode节点(即master)和多个Datanode节点.Namenode管理文件系统的Namespace.他维护着文件系统树以及文件树中所有的文件和文件夹的元数据. hdfs架构图: Namenode: Namenode管理文件系统的Namespace.它维护着文件系统树以及文件树中所有的文件和文件夹的元数据(Metadata).管理这些信息的文件有两个,分别是Namespace镜像文件(Namespace imag

rsync + inotify 实现两台主机间文件的同步备份

前面一篇博文介绍了rsync的主要使用及工作于服务器模式下的安装.配置.inotify是Linux内核中监控文件系统的一种事件机制,它负责监视文件系统的变化.如文件的创建.修改.删除等,并以事件的方式通知给应用程序.inotify-tools是一个基于内核的inotify机制为用户提供实现对文件系统的事件进行监控功能的应用程序组件. inotify实现的对文件系统监视的事件: IN_ACCESS:文件被访问 IN_MODIFY:文件被修改 IN_ATTRIB,文件属性被修改 IN_CLOSE_W

Android实现两个ScrollView互相联动,同步滚动的效果

公众号:smart_android 作者:loonggg 点击"阅读原文",可查看很多其它内容和干货 近期在做一个项目,用到了两个ScrollView互相联动的效果,简单来说联动效果意思就是滑动当中的一个ScrollView还有一个ScrollView也一同跟着滑动,要做到一起同步滑动. 感觉在以后的项目开发中大家可能也会用到.绝对做个Demo分享出来,供大家一起学习,以便大家以后好用,觉的不错,实用的能够先收藏起来哦! 事实上对于ScrollView,Android官方并没有提供相关

C#超简单方法实现两个richtextbox控件滚动条同步滚动

此文章属于作者原创,转载请注明,谢谢 有时候我们需要实现对照文章等,往往将文本放到两个richtextbox控件中,但是,如果我们需要同步滚动查看,来达到更好的观看效果. 当然,传统的方法重载控件或者自定义控件都可以达到目的,但是对于新手或者想仅仅只用一次这个控件的人来说,是非常麻烦的.所以,接 下来我来提供一种简单快捷的方法来实现:richtextbox滚动条同步的功能. 首先,我们在winform窗体创建两个richtextbox控件 下面介绍两个方法,我经常用到 第一个方法,获得当前鼠标所

数据库中两张表之间的数据同步实现思路(增加、删除、更新)Mysql、sqlserver

分别创建增加.删除.更新的触发器(Trigger)来达到两张表之间数据同步的目的. 1:数据同步增加:如有两张表--A表和B表,创建触发器使当A表插入数据后B表也同步插入数据.其中B表插入数据的字段需要同A表中的字段相对应. CREATE TRIGGER 触发器名称 ON A表 AFTER INSERT AS BEGIN INSERT INTO B表(B表字段1,B表字段2,B表字段3) SELECT A表字段1,A表字段2,A表字段3 FROM INSERTED END 2.数据同步删除:如有