Hadoop编写一键集群全起start-cluster.sh、全关stop-cluster.sh、显示所有jps进程show-jps.sh脚本 以及解决方案

一、首先进入:/usr/local/bin 文件夹下,编写start-cluster.sh脚本

vim start-cluster.sh              (需要root权限) 下面的各个节点的信息根据自身情况进行修改

#!/bin/bash
user=`whoami`

echo "===============     开始启动所有节点服务        ==============="
for((host=102; host<=104; host++)); do
                echo "--------------- hadoop$host Zookeeper...... ----------------"
        ssh [email protected]$host ‘/opt/module/zookeeper-3.4.10/bin/zkServer.sh start‘
done

echo "================    正在启动HDFS                ==============="
ssh [email protected] ‘/opt/module/hadoop-2.7.2/sbin/start-dfs.sh‘

echo "================    正在启动YARN                ==============="
ssh [email protected] ‘/opt/module/hadoop-2.7.2/sbin/start-yarn.sh‘

echo "================ hadoop102正在启动JobHistoryServer  ==============="
ssh [email protected] ‘/opt/module/hadoop-2.7.2/sbin/mr-jobhistory-daemon.sh start historyserver‘

保存,退出。修改执行权限 chmod 777 start-cluster.sh (或者u+x)运行:

二、编写stop-cluster.sh

#!/bin/bash
user=`whoami`
echo "================     开始停止所有节点服务        ==============="
echo "================ hadoop102正在停止JobHistoryServer  ==============="
ssh [email protected] ‘/opt/module/hadoop-2.7.2/sbin/mr-jobhistory-daemon.sh stop historyserver‘

echo "================    正在停止YARN                ==============="
ssh [email protected] ‘/opt/module/hadoop-2.7.2/sbin/stop-yarn.sh‘

echo "================    正在停止HDFS                ==============="
ssh [email protected] ‘/opt/module/hadoop-2.7.2/sbin/stop-dfs.sh‘

echo "===============     正在停止Zookeeper......     ==============="
for((host=102; host<=104; host++)); do
        echo "--------------- hadoop$host Zookeeper...... ----------------"
        ssh [email protected]$host ‘/opt/module/zookeeper-3.4.10/bin/zkServer.sh stop‘
done

修改执行权限:chmod 777 stop-cluster.sh

 三、编写show-jps.sh

#!/bin/bash
for((host=102; host<=104; host++)); do
                echo "================  hadoop$host JPS  ====================="
        ssh hadoop$host "jps"
done

修改权限,运行

 注意:如果仅仅是编辑以上的脚本的话启动时是看不到其它主机的信息的,因为他们找不到Java里的jps路径,因此我们必须要去创建软连接:

sudo ln -s /opt/module/jdk1.8.0_144/bin/jps /usr/local/bin/jps

显示为

再在每个节点的这个位置手动设置软链接!不设置软连接便会出现如下情况!

设置好每个节点的软链接

 注:编写的脚本群起zookeeper服务,显示started但是jps不显示相应QuorumPeerMain进程解决方案:

在/opt/module/zookeeper-3.4.10/bin目录下的zkEnv.sh文件

在开头加上你的JAVA_HOME路径如下:

再分发到各个节点:xsync zkEnv.sh

一切就大功告成!如有哪儿不懂可以加我的群哦!875910806

原文地址:https://www.cnblogs.com/Mark-blog/p/11760415.html

时间: 2024-10-15 16:36:20

Hadoop编写一键集群全起start-cluster.sh、全关stop-cluster.sh、显示所有jps进程show-jps.sh脚本 以及解决方案的相关文章

Hadoop 机架(集群拓扑)设置

本文通过MetaWeblog自动发布,原文及更新链接:https://extendswind.top/posts/technical/hadoop_rack_awareness Hadoop会通过集群的拓扑(节点在交换机的连接形式)优化文件的存储,降低跨交换机的数据通信,使副本跨交换机以保证数据安全. 但Hadoop没有默认的集群拓扑识别机制,需要使用额外的java类或脚本两种形式设置. 官网上给了集群拓扑的基本说明(!(Rack Awareness)[https://hadoop.apache

Hadoop伪分布式集群的安装部署

一.如何为虚拟机做快照? 1.什么是快照? 快照就是对当前的虚拟机状态进行拍照,保留虚拟机当前状态的操作信息. 2.为什么要为虚拟机做快照? 第一:为克隆不同状态的虚拟机提前做准备. 第二:当对虚拟机的某些操作执行错误而且改正比较麻烦的时候,可以切换到之前正常的虚拟机状态重新进行相关的操作. 3.如何为虚拟机做快照? (1)选择要克隆的虚拟机,然后“右键”,选择“快照”,然后选择“拍摄快照”. (2)可以为快照取个名称,也可以为虚拟机当前的状态做个描述,然后点击“拍摄快照”. 4.如何转到某一特

Hadoop之——分布式集群安装过程简化版

转载请注明出处:http://blog.csdn.net/l1028386804/article/details/46352315 1.hadoop的分布式安装过程 1.1 分布结构 主节点(1个,是hadoop0):NameNode.JobTracker.SecondaryNameNode 从节点(2个,是hadoop1.hadoop2):DataNode.TaskTracker 1.2 各节点重新产生ssh加密文件 ssh-keygen -t rsa    一路回车 进入/root/.ssh

Hadoop之——分布式集群安装过程

转载请注明出处http://blog.csdn.net/l1028386804/article/details/46316051 集群的概念 计算机集群是一种计算机系统,它通过一组松散集成的计算机软件和/或硬件连接起来高度紧密地协作完成计算工作. 集群系统中的单个计算机通常称为节点,通常通过局域网连接. 集群技术的特点: 1.通过多台计算机完成同一个工作.达到更高的效率 2.两机或多机内容.工作过程等完全一样.如果一台死机,另一台可以起作用 集群模式安装步骤       (在伪分布模式下继续)

Hadoop1.1 和Hadoop 2.4 集群安装版

目录 1 环境准备... 4 1.1 硬件配置... 4 1.2 软件... 4 1.3 网络拓扑结构... 4 1.4 系统分区... 5 1.5 虚拟机配置... 5 1.6 SSH免密码登录... 5 1.7 JDK安装... 7 2 Hadoop1.2.1安装及配置... 8 2.1 下载Hadoop安装介质... 8 2.2 解压Hadoop安装介质... 9 2.3 Hadoop配置文件... 9 2.4 复制Hadoop安装介质... 10 2.5 配置HADOOP_HOME. 1

[推荐]Hadoop+HBase+Zookeeper集群的配置

Hadoop+HBase+Zookeeper集群的配置  http://wenku.baidu.com/view/991258e881c758f5f61f67cc.html?re=view HDFS+MapReduce+Hive+HBase十分钟快速入门   http://wenku.baidu.com/view/7db2fcd276eeaeaad1f33055.html Hadoop+Zookeeper+HBase部署指南  http://wenku.baidu.com/view/02e4ad

hadoop及hbase集群启停的几种方式

1.生产环境集群 2.web管理页面 hadoop web管理页面(主备) http://192.168.10.101:50070 http://192.168.10.102:50070 hbase web管理页面(主备) http://192.168.10.101:16010 http://192.168.10.102:16010 3.启动和停止服务 3.1.启动顺序 Hadoop及hbase集群启动顺序 zookeepeer->hadoop->hbase Hadoop及hbase集群关闭顺

Hadoop伪分布式集群搭建总结

Hadoop伪分布式集群搭建总结 一.所需软件VMware15!CentOS6.5JDK1.8Hadoop2.7.3二.安装注意:对文件进行编辑:输入a,表示对该文件进行编辑,最后保存该文件,操作为:点击键盘上的Esc按钮,然后输入英文的:字符,再输入wq,点击回车,完成文件的保存.1.关闭防火墙和禁用SELINUX(1).永久关闭防火墙,重启Linux系统(2) .禁用SELINUX:修改文件参数 重启Linux使其生效(3).检查防火墙是否运行,显示下图即为关闭2.配置hostname与IP

Hadoop完全分布式集群搭建

Hadoop的运行模式 Hadoop一般有三种运行模式,分别是: 单机模式(Standalone Mode),默认情况下,Hadoop即处于该模式,使用本地文件系统,而不是分布式文件系统.,用于开发和调试. 伪分布式模式(Pseudo Distrubuted Mode),使用的是分布式文件系统,守护进程运行在本机机器,模拟一个小规模的集群,在一台主机模拟多主机,适合模拟集群学习. 完全分布式集群模式(Full Distributed Mode),Hadoop的守护进程运行在由多台主机搭建的集群上