hadoop2.6.0伪分布式安装

准备linux环境【java、ip、hostname、hosts、iptables、chkconfig、ssh】

下载稳定版2.6.0

修改etc/hadoop目录下的配置文件core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml

启动

验证

下面主要配置文件:

core-site.xml:

<property>

<name>fs.defaultFS</name>

<value>hdfs://192.168.1.97:9000</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/usr/local/hadoop-2.6.0/tmp</value>

</property>

<property>

<name>fs.trash.interval</name>

<value>1440</value>

</property>

hdfs-site.xml:

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

<property>

<name>dfs.permissions</name>

<value>false</value>

</property>

yarn-site.xml:

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

mapred-site.xml:

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

格式化namenode:  bin/hdfs namenode -format

启动——hdfs

sbin/hadoop-daemon.sh start namenode

sbin/hadoop-daemon.sh start datanode

访问端口:192.168.1.97:50070

启动-----yarn

sbin/yarn-daemon.sh start resourcemanager

sbin/yarn-daemon.sh start nodemanager

浏览器访问8088端口:192.168.1.97:8088

启动——historyserver

sbin/mr-jobhistory-daemon.sh start historyserver

浏览器访问端口为19888

上面可以写一个启动脚本:start-hadoop.sh

#!/bin/sh

hadoop_home=/usr/local/hadoop-2.6.0

$hadoop_home/sbin/hadoop-daemon.sh start namenode

$hadoop_home/sbin/hadoop-daemon.sh start datanode

$hadoop_home/sbin/yarn-daemon.sh start resourcemanager

$hadoop_home/sbin/yarn-daemon.sh start nodemanager

$hadoop_home/sbin/yarn-daemon.sh start historyserver

$hadoop_home/sbin/mr-jobhistory-daemon.sh start historyserver

关闭也可以写一个脚本:stop-hadoop.sh

#!/bin/sh

hadoop_home=/usr/local/hadoop-2.6.0

$hadoop_home/sbin/hadoop-daemon.sh stop namenode

$hadoop_home/sbin/hadoop-daemon.sh stop datanode

$hadoop_home/sbin/yarn-daemon.sh stop resourcemanager

$hadoop_home/sbin/yarn-daemon.sh stop nodemanager

$hadoop_home/sbin/yarn-daemon.sh stop historyserver

$hadoop_home/sbin/mr-jobhistory-daemon.sh stop historyserver

搞定了!

时间: 2024-10-13 01:15:21

hadoop2.6.0伪分布式安装的相关文章

Hadoop2.6.0伪分布式安装配置

首先安装JDK,从Oracle官网下载 在 /usr/目录下mkdir java创建一个java目录 将jdk-7u72-linux-x64.rpm 放入java目录下 执行 rpm –ivh jdk-7u72-linux-x64.rpm 再从Apache官网下载 在 /usr/目录下 mkdir hadoop 创建一个hadoop目录 将hadoop-2.6.0.tar.gz 放入hadoop目录下 执行 tar –zxvf hadoop-2.6.0.tar.gz 接下来配置环境变量 vim

Hadoop系列(二)hadoop2.2.0伪分布式安装

一.环境配置 安装虚拟机vmware,并在该虚拟机机中安装CentOS 6.4: 修改hostname(修改配置文件/etc/sysconfig/network中的HOSTNAME=hadoop),修改IP到主机名的映射(vi /etc/hosts ,添加 127.0.0.1   hadoop); 按照JDK,下载jdk1.7.0_60并解压到/soft目录中,然后在/etc/profile中添加  export JAVA_HOME=/soft/jdk1.7.0_60 和 export PATH

Ubuntu16.04 Hadoop2.6.0伪分布式安装与启动中遇到的问题

1.安装JDK1.8,下载安装包解压至 /usr/lib/jdk vim /etc/profile #配置路径 export JAVA_HOME= /usr/lib/jdk export JRE_HOME=${JAVA_HOME}/jre export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib export PATH=${JAVA_HOME}/bin:$PATH 2.之前已经安装好SSH,现在设置免密码登录 ssh-keygen -t rsa ca

琐碎-hadoop2.2.0伪分布式和完全分布式安装(centos6.4)

环境是centos6.4-32,hadoop2.2.0 伪分布式文档:http://pan.baidu.com/s/1kTrAcWB 完全分布式文档:http://pan.baidu.com/s/1hqIeBGw 和1.x.0.x有些不同,特别是yarn.

在Win7虚拟机下搭建Hadoop2.6.0伪分布式环境

近几年大数据越来越火热.由于工作需要以及个人兴趣,最近开始学习大数据相关技术.学习过程中的一些经验教训希望能通过博文沉淀下来,与网友分享讨论,作为个人备忘. 第一篇,在win7虚拟机下搭建hadoop2.6.0伪分布式环境. 1. 所需要的软件 使用Vmware 11.0搭建虚拟机,安装Ubuntu 14.04.2系统. Jdk 1.7.0_80 Hadoop 2.6.0 2. 安装vmware和ubuntu 略 3. 在ubuntu中安装JDK 将jdk解压缩到目录:/home/vm/tool

Hadoop-2.6.0伪分布--安装配置hbase

Hadoop-2.6.0伪分布--安装配置hbase 1.用到的hadoop与hbase: 2.安装hadoop: 具体安装看这篇博文: http://blog.csdn.net/baolibin528/article/details/42939477 hbase所有版本下载 http://archive.apache.org/dist/hbase/ 3.解压hbase: 结果: 4.修改hbase 文件权限为一般用户权限: 5.设置环境变量: 配置内容: 保存配置: 6.进入配置文件目录: 7

【hadoop之翊】——基于CentOS的hadoop2.4.0伪分布安装配置

今天总算是把hadoop2.4的整个开发环境弄好了,包括 windows7上eclipse连接hadoop,eclipse的配置和測试弄得烦躁的一逗比了~ 先上一张成功的图片,hadoop的伪分布式安装配置,仅仅要依照步骤来,有点基础的 基本没什么问题的..eclipse的配置 弄了非常长一段时间才弄好的,中间出现各种意外的错误..下篇博客将重点讲述这个艰难的过程... 今天来说说hadoop2.4的安装和配置吧~ 1.环境的准备: 系统:CentOS JDK版本号:jdk7 系统须要包括ssh

hadoop2.2.0伪分布式搭建

一.准备linux环境 1.更改VMware适配器设置 由于是在单机环境下进行学习的,因此选择适配器模式是host-only模式,如果想要联网,可以选择桥接模式,配置的方式差不多. 点击VMware快捷方式,右键打开文件所在位置 -> 双击vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 设置网段:192.168.85.0 子网掩码:255.255.255.0 -> apply -> ok 回到windows --> 打开网络

Hadoop2.X版本伪分布式安装详细介绍【非抄袭,原创!】

网上hadoop单节点安装文章真是一搜一大堆,可以这样说,全是垃圾,那些博主也不知道自己安装过没有..反正就一堆的copy,我实在看不下去了.必须把我总结的写出来,如果你有任何问题随时联系我! E-Mail: [email protected] 下面我以2.2.0为例子!注意这是单节点!!伪分布式!!不喜勿看 Hadoop2.2.0(Yarn)安装详细过程 一.运行一个单机版模式的hadoop伪分布式平台 1.软件环境 1.操作系统: 由于linux的开源性.安全性等因素现有的hadoop集群多