hadoop删除节点

1.修改Master节点Hdfs-site.xml,增加dfs.hosts.exclude参数

eg:

<property>

<name>dfs.hosts.exclude</name>

<value>url/excludes(created file)</value>(如果集群slave机器少于3台,记得把副本改为2默认是3,因为多出来没用)

</property>

2.修改Master节点的yarn-site.xml,增加yarn.resourceManager.nodes.exclude-path参数

<property>

<name>yarn.resourceManager.nodes.exclude-path</name>

<value>url/excludes(created file)</value>

</property>

3.修改Master的mapred-site.xml,增加mapreduce.jobtracker.hosts.exclude.filename(2.0)/1.0 是mapred.hosts.exclude

<property>

<name>mapreduce.jobtracker.hosts.exclude.filename</name>

<value>url/excludes(created file)</value>

</property>

4.新建excludes文件添加需要删除的主机名

create file(touch excludes 并且增加删除节点的hostname)

5.执行refreshNodes使配置生效

hdfs dfsadmin -refreshNodes(hdfs dfsadmin 可以查看帮助)

yarn rmadmin -refreshNodes(yarn 可以查看帮助)

hafs dfs -ls /url (查看文件副本数目和信息)

刷新设置副本数hdfs dfs -setrep -w 2 -R /URL(该目录下)

查询 hdfs dfs -ls -R /XX

时间: 2024-12-29 04:28:48

hadoop删除节点的相关文章

Hadoop 新增删除节点

1 新增Data节点 1.1 修改/etc/hosts,增加datanode的ip 1.2 在新增加的节点启动服务 hadoop-daemon.sh start datanode yarn-daemon.sh start nodemanager 1.3 均衡block start-balancer.sh 1)如果不balance,那么cluster会把新的数据都存放在新的node上,这样会降低mapred的工作效率 2)设置平衡阈值,默认是10%,值越低各节点越平衡,但消耗时间也更长 start

Hadoop动态添加/删除节点(datanode和tacktracker)

总的来说,正确的做法是优先通过配置文件,再在具体机器上进行相应进程的启动/停止操作. 网上一些资料说在调整配置文件的时候,优先使用主机名而不是IP进行配置. 总的来说添加/删除DataNode和TaskTracker的方法非常相似,只是操作的配置项和使用的命令有微小差异. 1. DataNode 1.0 配置文件 在master/namenode下修改配置文件conf/mapred-site.xml. 关键参数dfs.hosts和dfs.hosts.exclude. 注意:不同hadoop版本的

hadoop集群 动态添加或删除节点

在运行中的ambari hadoop集中中动态添加或删除节点 1. 下线hdfs节点 1) 下线datanode namenode节点上dfs.exclude文件,看配置文件怎么配置的,里每行添加一个服务器名,如我要下线server7,server8,server9,则如下: server7 server8 备注: 如果hdfs-site.xml没有找到dfs.hosts.exclude,那么就手动把下面内容加入到hdfs-site.xml中,然后把需要Decommission的机器写到文件/e

Hadoop 单节点 & 伪分布 安装手记

实验环境CentOS 6.XHadoop 2.6.0JDK       1.8.0_65 目的这篇文档的目的是帮助你快速完成单机上的Hadoop安装与使用以便你对Hadoop分布式文件系统(HDFS)和Map-Reduce框架有所体会,比如在HDFS上运行示例程序或简单作业等. 先决条件支持平台    GNU/Linux是产品开发和运行的平台. Hadoop已在有2000个节点的GNU/Linux主机组成的集群系统上得到验证.    Win32平台是作为开发平台支持的.由于分布式操作尚未在Win

添加节点、删除节点的两种方式

添加节点.删除节点的两种方式:(1)一种是静态添加修改slaves文件,重启hadoop集群优点:改动少缺点:暴力 需要停止服务应用环境:晚上或凌晨做 不耽误使用检查:50070和8088端口检查(50070hdfs系统的web地址,8088yarn的外部端口)(2)一种是动态添加:修改slaves文件,不重启hadoop集群新建主机列表文件优点:非暴力 不需要停止服务缺点:改动多 如果一次上很多 会乱应用环境:随时不耽误使用检查:50070和8088端口检查 原文地址:https://www.

红黑树之删除节点

红黑树之删除节点 上一篇文章中讲了如何向红黑树中添加节点,也顺便创建了一棵红黑树.今天写写怎样从红黑树中删除节点. 相比于添加节点,删除节点要复杂的多.不过我们慢慢梳理,还是能够弄明白的. 回顾一下红黑树的性质 红黑树是每个节点都带有颜色属性的二叉查找树,颜色或红色或黑色.在二叉查找树强制一般要求以外,对于任何有效的红黑树我们增加了如下的额外要求: 节点是红色或黑色. 根节点是黑色. 每个叶节点(这里的叶节点是指NULL节点,在<算法导论>中这个节点叫哨兵节点,除了颜色属性外,其他属性值都为任

jQuery DOM操作之删除节点

下面示例可能用到如下HTML代码: <ul>   <li title="t1">苹果</li>   <li>香蕉</li>   <li>橘子</li>   <li>葡萄</li>   <li>草莓</li> </ul> 1.remove()方法: 作用:从DOM中删除所有匹配的元素,传入的参数用于根据jQuery表达式来筛选元素. 例如,删除上

jQuery插入,复制、替换和删除节点

<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01//EN" "http://www.w3.org/TR/html4/strict.dtd"> <html> <head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8"> <title>jQuer

js 访问,插入,替换,创建,删除节点介绍

访问选定元素节点下的所有子节点的列表,返回的值可以看作是一个数组,他具有length属性.语法:elementNode.childNodes注意:如果选定的节点没有子节点,则该属性返回不包含节点的 NodeList. 注意:1. IE全系列.firefox.chrome.opera.safari兼容问题2. 节点之间的空白符,在firefox.chrome.opera.safari浏览器是文本节点,所以IE是3,其它浏览器是7, 访问子节点的第一和最后项一.firstChild 属性返回'chi