Ububtu 14.04 安装 Hadoop 2.7.3

1.首先安装java,配置java开发环境

  下载jdk:http://www.oracle.com/technetwork/java/javase/archive-139210.html选择你想要下载的版本,放入比如/home/java目录。我本机安装的是jdk 1.7

  下载完成后解压:tar -zxvf xxxxxx.tar.gz

  对/etc/profile文件进行配置: vim /etc/profile ,在文件的末尾添加环境变量(其中/usr/lib/jvm/java-7-oracle为解压文件的目录):

    export JAVA_HOME=/usr/lib/jvm/java-7-oracle
    export JRE_HOME=${JAVA_HOME}/jre
    export PATH=$JAVA_HOME/bin:$PATH:
    export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib

  profile这个文件是每个用户登录时都会运行的环境变量设置,当用户第一次登录时,该文件被执行. 并从/etc/profile.d目录的配置文件中搜集shell的设置。  

  打开shell,输入java -version,显示:

        

2.配置ssh

  配置ssh之前最好先更新一下软件源:

      apt-get update

  安装openssh-server:

      apt-get install openssh-server  

  使用ssh进行无密码验证登录:

    1.创建ssh-key,采用rsa方式,使用如下命令存储目录使用默认:

      ssh-keygen -t rsa -P ""

    2.将公钥文件追加到authorized_keys中

      cat ~/.ssh/id_rsa.pub >> authorized_keys

  

  检测ssh 服务是否启动:

      ps -e | grep ssh

  如果显示有ssh字样,则说明已经启动成功,如果没有则手动启动:

      /etc/init.d/ssh start

  也可以重启ssh server:

      /etc/init.d/ssh restart

  登录localhost:

      ssh localhost

  显示错误信息:

      

  错误信息看起来是jdk环境变量设置有问题,也没找到改正方法。不用修改也目前看起来还没有问题。

3.下载hadoop,我下载的是hadoop-2.7.3

  wget http://mirrors.hust.edu.cn/apache/hadoop/core/stable/hadoop-2.7.3.tar.gz

4.解压缩文件

  tar -xzvf hadoop-2.7.3.tar.gz

5.编辑hadoop配置文件

  hadoop的配置文件位于hadoop-2.7.3/etc/hadoop目录中,初始的话,需要修改core-site.xml,mapred-site.xml.template, hdfs-site.xml这三个文件

  使用vim编辑这三个配置文件:

  core-site.xml

<configuration>
    <property>
    <name>hadoop.tmp.dir</name>
    <value>file:/home/hadoop/hadoop_tmp</value>
    <description>Abase for other temporary directories.</description>
  </property>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

  其中<value>file:/home/hadoop/hadoop_tmp</value>是你自己设置用于hadoop的tmp目录

  mapred-site.xml

<configuration>
    <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9001</value>
  </property>
</configuration>

  hdfs-site.xml

<configuration>
    <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>file:/home/hadoop/hadoop_tmp/dfs/name</value>
  </property>
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>file:/home/hadoop/hadoop_tmp/dfs/data</value>
  </property>
</configuration>

  最好把dfs.namenode.name.dir和dfs.datanode.data.dir的目录放到core-site.xml中tmp目录下

6.初始化hadoop

  cd到hadoop-2.7.3根目录下,

    bin/hdfs namenode -format

  过程需要进行ssh验证,之前已经登录了,所以初始化过程之间键入y即可。

    

7.开启NameNode和dataNode进程

  sbin/start-dfs.sh

  报错:JAVA_HOME is not set and could not be found

  

  解决方法:vim打开hadoop-2.7.3/etc/hadoop/hadoop-env.sh,直接讲JAVA_HOME加入hadoop的环境变量

    

  使用jps查看进程信息:

  

  在浏览器中打开http://localhost:50070

  

 hadoop环境搭建完成。

时间: 2024-10-05 04:12:32

Ububtu 14.04 安装 Hadoop 2.7.3的相关文章

Redmine 安装 Ububtu 14.04 LTS

1.安装mysql sudo apt-get install mysql-server-5.6 mysql-client-5.6 2.修改mysql绑定的127.0.0.1信息 修改文件/etc/mysql/my.cnf 修改完重启 sudo service mysql stop sudo service mysql start 3.登录数据库确认是否正常 mysql -u root -p 4.创建数据库和用户 CREATE DATABASE redmine CHARACTER SET utf8

[操作系统][Ubuntu 14.04] 安装Flash 安装QQ2013

[操作系统][Ubuntu 14.04] 安装Flash 安装QQ2013_郑少群个人网 一.安装Flash 打开Firefox浏览器弹出的Flash安装提醒早都烦死了,那么Ubuntu14.04怎么安装Flash呢? 1.32位系统命令行安装: 第一步 更新库: ? sudo apt-get update ? ? 第二步 安装Flash用下面的代码: sudo apt-get install flashplugin-installer ? 这样就将Flash和依赖装好了. 2.32位系统可视化

ubuntu 14.04安装 DevStack的脚本配置文件——localrc

本文ubuntu 14.04安装 DevStack的脚本配置文件——localrc,本文件名已经逐渐被取代,但是出于后向兼容性,使用该文件仍然可以为stack.sh安装脚本指定安装DevStack时的配置信息. 以下是localrc文件的一些常用配置及解释 # Misc DATABASE_PASSWORD=123456 ADMIN_PASSWORD=123456 SERVICE_PASSWORD=123456 SERVICE_TOKEN=123456 RABBIT_PASSWORD=123456

dell optiplex ubuntu 14.04 安装 NVIDIA 显卡驱动

公司配置的 dell optiplex使用核显带起双屏幕,玩dota2无法特效全开.so,在京东上买了一块750Ti.安装驱动的时候需要切换到ubuntu的全命令行模式,关掉桌面系统才能安装.这时候这个坑出现了,要想安装驱动,就必须进入全命令行模式,要想进入命令行模式必须有驱动.反复尝试后,发现只能用DP口带单屏幕才能成功.在这里特别记录下.嘎嘎dell optiplex ubuntu 14.04 安装 NVIDIA 显卡驱动,布布扣,bubuko.com

Ubuntu 14.04安装redmine

公司要安装项目管理系统,采用redmine,新来的我就来做这个小小的任务了,中途也出过几次问题,搭建redmine,他的依赖包很多,所以我建议用apt装,下面开始吧. 首先升级一下源 apt-get update apt-get upgrade 更新完成 PS:(如果图省事,可以选择LAMP套件安装,此处指mysql和apache此处不用套件安装了 ) 安装apache2和apache2的一个模块 apt-get install apache2 libapache2-mod-passenger

ubuntu 14.04 安装 vmware 10 X64 后无法启动解决方法

ubuntu 14.04 安装成功后,平时的工作什么的都够用了, 最近需要做一个测试,测试环境还必须是windows的.所以就准备整个虚拟机来,kvm 跟 vmware 考虑再三,选择了 vmware .vmware 10的安装方法,就不做说明了.度娘或谷哥还是有蛮多方法.我这里所写的是,vmware 安装后,启动时报错. 报错图片如下: 解决方法: 当然方法有很多种,我也试过几种方法,有使用patch 的,但是我用这种方法的时候,出现错误了,继续找方法的时候,有网友有告诉过这样一种方法,就是手

ubuntu kylin 14.04安装配置redis-2.8.9(转)

1.下载安装文件加压.编译和安装 cd /tmpwget http://download.redis.io/releases/redis-2.8.9.tar.gztar -zxf redis-2.8.9.tar.gzcd redis-2.8.9makesudo make install 这时Redis 的可执行文件被放到了/usr/local/bin 2.下载配置文件和init启动脚本:wget https://github.com/ijonas/dotfiles/raw/master/etc/

Ubuntu 14.04 安装 SteamOS 会话

如何在Ubuntu 14.04上安装steamos会话,以使用户的SteamOS 大图片模式直接从lightdm GTK迎宾开始进入. SteamOS是一个开源的基于Debian Wheezy分支的.为游戏的优化的操作系统.不像Debian 7,它使用的是xcompmgr图形合成器.SteamOS由维尔福公司设计开发,使用于Steam Machine游戏终端机上.在2013年12月13日首次发布. 在这篇文章中我将告诉你如何在Ubuntu 14.04上安装steamos会话,以使用户的Steam

Ubuntu Kylin 14.04 安装配置 jdk、eclipse、tomcat 通用

一.安装jdk 1)首先去sun官网下载jdk http://www.oracle.com/technetwork/java/javase/downloads/index.html 注意下载的是tar.gz结尾的文件,例如:jdk-7u21-linux-i586.tar.gz 2)下载之后,打开终端使用命令进行解压: sudo tar -zxvf jdk-7u21-linux-i586.tar.gz 回车后需要输入登陆密码,注意输入的密码是看不到的,你输入后回车就行 我下载的jdk是:jdk-7