windows下hadoop的集群分布式部署

下面我们进行说明一下hadoop集群的搭建配置.

本文假设读者具有hadoop单机配置的基础,相同的部分不在重述。

以三台测试机为例搭建一个小集群,三台机器的ip分别为

192.168.200.1;192.168.200.2;192.168.200.3

cygwin,jdk的安装同windows下hadoop的单机伪分布式部署(1),这里略过。

1、配置 hosts

在三台机子的hosts文件中加入如下记录:

192.168.200.1 hadoop1  #master namenode

192.168.200.2 hadoop2  #datanode

192.168.200.3 hadoop3  #datanode

2、配置 hadoop1上的hadoop

hadoop-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml配置同windows下hadoop的单机伪分布式部署(1)

只是将其中的主机名localhost换成hadoop1这里略过。

配置masters文件:hadoop1

配置slaves文件:hadoop2 hadoop3

3、然后将hadoop1上的hadoop文件夹拷贝到hadoop2、hadoop3机器上面;

如果jdk安装目录不同,需要更改hadoop-env.sh中java_home的配置路径。

4、配置无密码登陆

分别在三台机器上运行命令ssh-keygen,然后将hadoop1和hadoop2上的id_rsa.pub文件拷贝到hadoop1上,

并将三台机器上id_rsa.pub都导入到authorized_keys文件中,然后该authorized_keys文件拷贝到hadoop2,hadoop3上。

5、在hadoop1上先格式化namenode格式,

hadoop namenode -format

然后运行命令:start-all.sh 启动整个集群。

利用jps命令检查master和slave上的hadoop进程是否成功启动,jps命令检查master上的namenode,jobtracker进程,

检查slave上的datanode,tasktracker进程。

6、与myeclipes的集成同windows下hadoop的单机伪分布式部署(3)

windows下hadoop的集群分布式部署,布布扣,bubuko.com

时间: 2024-12-25 08:41:29

windows下hadoop的集群分布式部署的相关文章

windows下hadoop的单机伪分布式部署(3)

下面介绍myeclipse与hadoop的集成. 我用的myeclipse版本是8.5. 1.安装hadoop开发插件 在hadoop1.2.1版本的安装包contrib/目录下,已经不再提供hadoop-eclipse-pligin-1.2.1.jar; 而是提供了源代码文件,需要我们自行重新编译成jar包文件:这里方便,大家可以从这里下载: hadoop-eclipse-plugin-1.2.1.jar.pdf 由于博客上传文件的类型限制,故添加了pdf后缀,下载之后重命名,去掉".pdf&

windows下hadoop的单机伪分布式部署(1)

hadoop的运行环境应该是在linux环境.如果想在windows环境下安装和运行hadoop,一般有两种方式:一种是VM的方式linux操作系统,这样可以实现全linux环境的hadoop运行:另一种方式安装cygwin模拟linux环境,该方法相对比较简单方便. 本文采取cywin的方式.下面将介绍下cygwin的安装与配置: (1)cygwin的安装 下载cygwin安装文件:http://cygwin.com; 我用的是64位版:操作系统为win7: 下载的setup文件实际上只是一个

windows下hadoop的单机伪分布式部署(2)

下面开始hadoop的安装与配置: (1)安装jdk 我安装的是JDK1.7.0_40,windows x64版的 下载完之后,直接点击安装, 我的安装路径为默认路径:C:\Program Files\Java\jdk1.7.0_40: 安装完毕后,设置环境变量: JAVA_HOME指向JDk安装目录 PATH指向JDK的bin目录 设置完成之后,在cmd中 输入java命令,如果出现一下画面,即为安装成功: (2)安装hadoop 下载hadoop,http://hadoop.apache.o

windows下安装redis集群

前几天在自己在本机win10 电脑下部署了redis集群. 主要通过的是网上两个博客: 如何在windows下部署redis集群:https://blog.csdn.net/zsg88/article/details/73715947 redis的一些操作:https://blog.csdn.net/mlc1218559742/article/details/52640180 原文地址:https://www.cnblogs.com/tuanz/p/9359037.html

Windows下搭建Redis集群

Redis集群:运行多个Redis实例,然后通过特定的工具,将这些实例以某种关系连接起来,形成一个Redis网络. 详细的内容可以阅读:Redis 集群教程 里面会详细介绍Redis集群的设计思想和内部结构,以及如何搭建Redis集群等. 本文主要讲述如何在Windows系统下快速搭建Redis集群: 1.下载Redis 其GitHub连接如下:https://github.com/MSOpenTech/redis/releases/ Redis提供msi和zip格式的下载文件,这里下载zip格

Windows 下搭建RabbitMQ集群

RabbitMQWindows集群操作 1.下载Erlang程序,可以在http://www.erlang.org/download.html这个地方找到最新的Erlang/OTP 2.安装rabbitmq-server-windows程序,下载http://www.rabbitmq.com/server.html. 3.分别在每个集群机器上面配置hosts文件,里面是机器的IP地址和机器的名称 例如:192.168.1.26 rabbitmqwin1 192.168.1.40 rabbitmq

生产环境下hadoop HA集群及Hbase HA集群配置

一.环境准备 操作系统版本:centos7 64位 hadoop版本:hadoop-2.7.3 hbase版本: hbase-1.2.4 1.机器及角色 IP 角色 192.168.11.131 Namenode DFSZKFailoverController ResourceManager Jobhistory HMaster QuorumPeerMain 192.168.11.132 Namenode DFSZKFailoverController HMaster QuorumPeerMai

windows下使用RedisCluster集群简单实例

一.开发环境 ruby环境准备 下载 64位的 RubyInstaller并安装 地址http://rubyinstaller.org/downloads/勾选下面三个不用配置环境变量 Image.png 安装RubyGems 下载下来是一个压缩包,解压运行里面的 setup.rb 安装 rubyGems由于墙的原因ruby自带的源有时候很慢,我们换成淘宝的源,不然下面安装redis依赖会失败. 在cmd下运行 gem sources --remove https://rubygems.org/

zookeeper在windows下的伪集群安装和启动

Windows下安装 把下载的zookeeper的文件解压到指定目录 E:\Program\zookeeper-3.4.6 修改conf下增加zoo1.cfg,zoo2.cfg,zoo3.cfg # The number of milliseconds of each tick tickTime=2000 # The number of ticks that the initial  # synchronization phase can take initLimit=10 # The numb