Centos 6.5 下Hadoop 1.2.1单节点环境的创建

安装以及配置Java

  • JDK安装

#chmod 777 jre-6u31-linux-x64-rpm.bin

#./jre-6u31-linux-x64-rpm.bin

  • 添加java环境变量

#vim /etc/profile

#最后添加

# set java environment

export
JAVA_HOME=/usr/java/jre1.6.0_31

export
CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export
PATH=$PATH:$JAVA_HOME/bin

生效java变量:

#source /etc/profile

# java -version

  • 添加hadoop用户

在所有的机器上都建立相同的目录,也可以就建立相同的用户,最好是以该用户的home路径来做hadoop的安装路径。安装路径都是:/home/hadoop/hadoop-1.2.1

#useradd hadoop

#passwd hadoop  #密码也为hadoop

  • 无密码登陆

# su - hadoop
$ ssh-keygen -t rsa
$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
$ chmod 0600 ~/.ssh/authorized_keys

  • 下载安装hadoop


#su - hadoop#wget http://apache.stu.edu.tw/hadoop/common/hadoop-1.2.1/hadoop-1.2.1.tar.gz#tar -zxvf hadoop-1.2.1.tar.gz

我的安装目录为:

/home/hadoop/hadoop-1.2.1

为了方便,使用hadoop命令或者start-all.sh等命令,修改节点上/etc/profile 新增以下内容:

export HADOOP_HOME=/home/hadoop/hadoop-1.2.1

export PATH=$PATH:$HADOOP_HOME/bin

修改完毕后,执行source /etc/profile 来使其生效。
  • 配置Hadoop

配置conf/hadoop-env.sh文件,添加: export JAVA_HOME=/usr/java/jre1.6.0_31 这里修改为你的jdk的安装位置。
  • 测试hadoop安装

执行hadoop自带的例子来检测hadoop是否安装成功 cd $HADOOP_HOME/bin /home/hadoop/hadoop-1.2.1/bin/hadoop jar ./hadoop-1.2.1/hadoop-examples-1.2.1.jar wordcount ./hadoop-1.2.1/conf/ /tmp/out
  • 修改配置文件

vi /home/hadoop/hadoop-1.2.1/conf/core-site.xml <configuration> <property> 

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>


</configuration>



vi /home/hadoop/hadoop-1.2.1/conf/hdfs-site.xml

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

</configuration>





vi /home/hadoop/hadoop-1.2.1/conf/mapred-site.xml

<configuration>

<property>

<name>mapred.job.tracker</name>

<value>localhost:8021</value>

</property>

</configuration>
  • 格式化HDFS
hadoop namenode -format
  • 启动服务
start-dfs.sh start-mapred.sh
  • 停止服务
stop-dfs.sh

stop-mapred.sh

  • 验证

Hadoop NameNode 默认端口是50070 访问port 50090 得到 secondary namenode的相关信息. 访问port 50075 得到 DataNode的相关信息.
				
时间: 2024-08-29 14:25:45

Centos 6.5 下Hadoop 1.2.1单节点环境的创建的相关文章

CentOS 6.7安装Hadoop 2.6.3集群环境

在CentOS 6.7 x64上搭建Hadoop 2.6.3完全分布式环境,并在DigitalOcean上测试成功. 本文假设: 主节点(NameNode)域名(主机名):m.fredlab.org 子节点(DataNode)域名(主机名):s1.fredlab.org s2.fredlab.org s3.fredlab.org 一.配置SSH互信 1.master机上生成公私钥:id_rsa和id_rsa.pub ssh-keygen 2.上传到每个节点机器的.ssh/目录下 .ssh/---

Hadoop单节点环境搭建

下面介绍怎么在linux系统上设置和配置一个单节点的Hadoop,让你可以使用Hadoop的MapReduce和HDFS(Hadoop Distributed File System)做一些简单的操作. 准备工作 1)下载Hadoop:2)为你的linux系统安装JDK,推荐的JDK版本可以在这里(http://wiki.apache.org/hadoop/HadoopJavaVersions)查看:3)为你的系统安装ssh. 设置环境变量 1)为Hadoop设置JDK信息: export JA

Ubuntu14下Hadoop开发&amp;lt;1&amp;gt; 基础环境安装

准备了一台淘汰的笔记本.单核CPU.3G内存.160G硬盘:准备一个2G的U盘 在官网下载了64位的14.04版本号(麒麟)的ISO.下载UNetbootin(Ubuntu专用U盘安装工具) 使用UNetbootin将ISO文件写入到U盘中,将笔记本设置为U盘启动,将U盘插入笔记本,打开笔记本电源就可以,接下来就依据提示一步一步来就能够了 安装过程非常快.期间假设有网络的话,可能会比較慢.会下载一些更新包 下载64位的JDK1.7.有个帖子写的非常具体,我依照这个来的(依据实际情况进行改动就可以

centos下hadoop的安装

hadoop的安装不难,但是需要做不少的准备工作. 一.JDK 需要先安装jdk.centos下可以直接通过yum install java-1.6.0-openjdk来安装.不同发布版的安装方式可能不一样. 二.设置ssh 之后,需要设置ssh为密钥认证登录.如果没有这一步,那么以后每次hadoop运行的时候都会提示输入密码.可以直接ssh-keygen -t rsa一路回车生成ssh的密钥对,然后进入当前用户的家目录,进入.ssh目录,cp /home/hadoop/.ssh/id_rsa.

Cloudera hadoop-2.3.0-cdh5.1.0 在Centos 6.5 下的安装

安装前准备 1.  虚拟机3个,安装Centos 6.5, 内存设置为4GB 2.  配置yum源为163(不配置,在安装软件时,慢的要死) 3. 关闭防火墙( iptables),disabled SELinux 4. 配置静态IP,并在/etc/hosts中将Hadoop集群中的主机名加进去 安装 1. 在Cloudera官网上下载 cloudera-manager-installer.bin 2. 直接运行 cloudera-manager-installer.bin 3. 通过安装好的c

centOS 64位下编译hadoop2.4.1

1. 安装JDK a.      解压jdk [[email protected] software]$ tar -xvzf jdk-7u60-linux-x64.tar.gz b.      设置环境变量 PATH=$PATH:$HOME/bin export JAVA_HOME=/home/bigdata001/BigDataPlatform/jdk1.7.0_60 export JAVA_BIN=$JAVA_HOME/bin export CLASSPATH=.:$JAVA_HOME/li

Centos下装eclipse测试Hadoop

(一),安装eclipse 1,下载eclipse,点这里 2,将文件上传到Centos7,可以用WinSCP 3,解压并安装eclipse [[email protected] opt]# tar zxvf '/home/s/eclipse-jee-neon-1a-linux-gtk-x86_64.tar.gz' -C/opt ---------------> 建立文件:[[email protected] opt]# mkdir /usr/bin/eclipse     ----------

CentOS 6.4下安装MySQL 5.6.22

本文详细介绍在CentOS 6.4下安装MySQL 5.6.22的过程,供需要的朋友学习参考. 一.下载MySQL 安装包 1)http://dev.mysql.com/downloads/mysql/ 打开网址: Select Platform: 选择 Linux-Generic 选择选择 Linux - Generic (glibc 2.5) (x86, 64-bit), RPM   进行下载: linux 下下载: wget  http://cdn.mysql.com/Downloads/

Linux下Hadoop 2.2.0 集群配置攻略

Hadoop 2.2.0 集群配置攻略 用户输入标识: chmod +x jdk-7u45-linux-x64.rpm  为黑色带底纹 系统输出标识: java version "1.7.0_51" 为绿色小字 2014年3月20-日 by lilihao Q 404536204 1. 安装sun jdk (1). 到Oracle的官方网站下载jdk,目前最新版本是7u51 安装包: http://www.oracle.com/technetwork/java/javase/downl