ubuntu 在下面 hadoop 安装

这两天已经安装hadoop 这些道路是曲折的,记录它

在redhat安装后一直无法开始datanode,因为jdk 问题,换了一个jdk后问题依然,自己猜測是redhat版本号太低的原因,于是仅仅好舍弃,换ubuntu

ubantu版本号是13.04.比較稳定。

安装前首先准备好材料。

vmare 虚拟机 ,准备好jdk  和hadoop

由于是虚拟机安装所以放到vmvare 共享目录以下。

=====================================================================================================

在安装这些之前要先安装ssh 我在開始装的时候没有发现ubantu没有装ssh 的server端仅仅有client。

然后直接apt-get 发现又不能直接下,所以每次启动hadoop后仅仅有namenode的进程,datanode进程报错链接被拒绝,后来换了非常多个数据源包含国内国外都有,都是在更新数据源(sudo
apt-get update)。失败。不知什么原因找了好久也没有解决方式(有知道的大牛能够告诉我)。最后没有办法仅仅能自己手动安装ssh了。

安装ssh 准备好材料:

1 安装zlib

解压zlib 进入文件夹

编译安装(1 ./configure 2 make 3 make install)

2 安装openssl

步骤同上(./configure 改为./config)

3 安装openssh

同1

4 getdit /etc/passwd

增加以下一行

sshd:x:74:74:Privilege-separated
SSH:/var/empty/sshd:/sbin/nologin

5  启动ssh。ssh默认安装在/usr/local/sbin/文件夹下。使用
/usr/local/sbin/sshd 启动ssh服务,该服务默认侦听22port。

6 检查ssh服务是否启动监听port是否为22:netstat
-tnlp|grep :22

==============================================================================

以上为安装ssh

以下进入安装HADOOP正题:

1 安装java

jdk 解压到/usr/java/jdk

cd 到指定文件夹

/mnt/hgfs/Ubantu/jdk-6u24-linux-i586.bin

2 解压Hadoop安装包

hadoop 解压到/usr

cd
到指定文件夹

tar -zxvf /mnt/hgfs/Ubantu/hadoop-1.2.1.tar

3 配置环境变量

vi /etc/profile

增加下面

export JAVA_HOME=/usr/java/jdk1.6.0_24

export HADOOP_HOME=/usr/hadoop-1.2.1

export
PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$PATH

CLASSPATH=.:$HADOOP_HOME/bin:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export CLASSPATH

4编辑conf/hadoop-env.sh

增加 export
JAVA_HOME=/usr/java/jdk1.6.0_24

5伪分布式模式下Hadoop的配置例如以下(共同拥有三个文件要配置 位置在/conf下  )

(1)core-site.xml

<configuration>

<property>

<name>hadoop.tmp.dir</name>

<value>/usr/hadoop-1.2.1/tmp</value>

</property>

<property>

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>

</configuration>

(2)hdfs-site.xml

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

</configuration>

(3)mapred-site.xml

<configuration>

<property>

<name>mapred.job.tracker</name>

<value>localhost:9001</value>

</property>

</configuration>

6
免passwordSSH设置

生成密钥对 ssh-keygen
-t rsa

进入.ssh文件夹
运行 sp id_ras.pub authorized_keys

运行ssh
localhost 发现能够实现SSH链接不须要password

7
创建tmp文件每次进行第八步都会生成一个tmp文件(注意每次又一次格式化的时候要删除tmp 由于当中tmp存有上次的namenode的namespaceID,但每次又一次format
会生成新的namenode namespaceID造成版本号不一致,从而下次运行9时。会造成namenode进程起不来)

步骤5中core-site.xml中已经将tmp文件指向配置。

8 格式化分布式文件系统

bin/hadoop namenode -format

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvY2FwdGFpbl93bDkwODM=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast" >

9 启动Hadoop守护进程

bin/start-all.sh

jps命令能够发现有除了jps以外五个线程

10 停止Hadoop守护进程

bin/stop-all.sh

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvY2FwdGFpbl93bDkwODM=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast" >

版权声明:本文博客原创文章,博客,未经同意,不得转载。

时间: 2024-10-14 03:34:10

ubuntu 在下面 hadoop 安装的相关文章

ubuntu 下的 hadoop 安装

这两天一直在安装hadoop 道路比较曲折,记录一下 在redhat下安装完成以后一直无法启动datanode,原因是jdk 的版本一直有问题,换了一个jdk后问题依旧,自己推测是redhat版本太低的原因,于是只好舍弃,换ubuntu ubantu版本是13.04.比较稳定. 安装前首先准备好材料. vmare 虚拟机 ,准备好jdk  和hadoop 因为是虚拟机安装所以放到vmvare 共享文件夹下面. ===========================================

Ubuntu上的Hadoop安装教程

Install Hadoop 2.2.0 on Ubuntu Linux 13.04 (Single-Node Cluster) This tutorial explains how to install Hadoop 2.2.0/2.3.0/2.4.0/2.4.1 on Ubuntu 13.04/13.10/14.04 (Single-Node Cluster). This setup does not require an additional user for Hadoop. All fi

ubuntu 14 .04 LTS 安装配置 hadoop 1.0.4 写给hadoop入门者

各种纠结  期间ubuntu安装无数次 hadoop各种版本尝试无数次 都悲剧 然后看到这个www.linuxidc.com/Linux/2013-01/78391.htm  还是悲剧,稍加修改搞定之 一.安装JDK 1.下载并安装 sudo apt-get install openjdk-7-jdk 要求输入当前用户密码时输入密码,回车: 要求输入YES/NO时,输入YES,回车,一路向下安装完成: 2.在命令行输入JAVA -VERSION查看是否安装成功 3.配置环境变量 编辑文件/etc

Hadoop安装(Ubuntu Kylin 14.04)

安装环境:ubuntu kylin 14.04   haoop-1.2.1   hadoop下载地址:http://apache.mesi.com.ar/hadoop/common/hadoop-1.2.1/ 1.安装JDK,这里要注意的是:要想在hadoop中使用,则需要在hadoop下输入命令:source  /etc/profile 来实现,然后用java -version 测试看看是否生效了. 2.创建hadoop用户和用户组(切换到root) 创建hadoop用户组   sudo ad

[Hadoop入门] - 2 ubuntu安装与配置 hadoop安装与配置

ubuntu安装(这里我就不一一捉图了,只引用一个网址, 相信大家能力) ubuntu安装参考教程:  http://jingyan.baidu.com/article/14bd256e0ca52ebb6d26129c.html 注意下面几点: 1.设置虚拟机的IP, 点击虚拟机的右下角网络连接图标, 选择”桥接模式“, 这样才能分配到你的局域网IP, 这个很重要因为后面hadoop要用到局域网. 2.在ubuntu里面查看ip的命令:ifconfig可以显示出你的IP地址, 看一下IP是否为你

hadoop安装教程

hadoop的核心 Hadoop的核心就是HDFS和MapReduce,而两者只是理论基础,不是具体可使用的高级应用,Hadoop旗下有很多经典子项目,比如HBase.Hive等,这些都是基于HDFS和MapReduce发展出来的.要想了解Hadoop,就必须知道HDFS和MapReduce是什么. HDFS HDFS(Hadoop Distributed File System,Hadoop分布式文件系统),它是一个高度容错性的系统,适合部署在廉价的机器上.HDFS能提供高吞吐量的数据访问,适

转载:Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04

原文 http://www.powerxing.com/install-hadoop/ 当开始着手实践 Hadoop 时,安装 Hadoop 往往会成为新手的一道门槛.尽管安装其实很简单,书上有写到,官方网站也有 Hadoop 安装配置教程,但由于对 Linux 环境不熟悉,书上跟官网上简略的安装步骤新手往往 Hold 不住.加上网上不少教程也甚是坑,导致新手折腾老几天愣是没装好,很是打击学习热情. 本教程适合于原生 Hadoop 2,包括 Hadoop 2.6.0, Hadoop 2.7.1

Hadoop安装指引

环境: Ubuntu16.04 机器: 192.168.1.105 namenode 192.168.1.102 datanode1 0.配置节点信息 sudo gedit /etc/hosts #加入下面的信息 192.168.1.105 namenode 192.168.1.102 datanode1 sudo gedit /etc/hostname #修改主机名称 #上面的内容电脑重启后生效 1.在Ubuntu下创建hadoop组和hadoop用户 1.1.创建hadoop用户组 如果不是

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式)【转】

[转自:]http://blog.csdn.net/hitwengqi/article/details/8008203 最近一直在自学Hadoop,今天花点时间搭建一个开发环境,并整理成文. 首先要了解一下Hadoop的运行模式: 单机模式(standalone)       单机模式是Hadoop的默认模式.当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置.在这种默认模式下所有3个XML文件均为空.当配置文件为空时,Hadoop会完全运行在本地.因为不