[Hadoop]单机尝试安装并测试Hadoop2.7.1(附带注释脚本)

还算是比较顺利,在代码中注释写得已经比较详细了。附上脚本,有兴趣的朋友可以尝试一下。注意bashrc中添加的环境变量名的修改,否则会出现找不到主类等问题。

 1 ###ubuntu 14.04 LTS
 2
 3 ##make hadoop account
 4 sudo addgroup hadoop    #make a group named hadoop
 5 sudo adduser -ingroup hadoop hadoop    #add an user named hadoop
 6 sudo vi /etc/sudoers    #add hadoop into sudoers(hadoop=root)
 7
 8 ##change your account
 9 sudo su hadoop
10
11 ##install ssh
12 sudo apt-get install openssh-server    #install openssh-server
13 sudo /etc/init.d/ssh start    #start ssh server
14 ps -e | grep ssh    #check whether ssh is started or not
15
16 ##log in without password
17 ssh-keygen -t rsa -P ""    #log in without password generate rsa & rsa.pub
18 cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys    #add authorized_keys to realize ‘log in without password‘
19 ssh localhost    #check
20 exit    #check
21
22 ##install java environment
23 sudo apt-get install openjdk-7-jdk    #install jdk
24 java -version    #check whether java is installed or not
25
26 ##get & install hadoop 2.7.1    (under user : hadoop)
27 cd ~
28 mkdir hadoop
29 sudo wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.7.1/hadoop-2.7.1.tar.gz    #get hadoop2.7.1
30 sudo tar xzf hadoop-2.7.1.tar.gz    #unzip the hadoop-*.*.*.tar.gz
31 sudo rm hadoop-2.7.1.tar.gz    #remove the zip
32 sudo mv hadoop-2.7.1 /usr/local/    #install hadoop at local
33 sudo chmod 774 /usr/local/hadoop     #granted permissions to users (r&w)
34
35 ##configure ~/.bashrc
36 update-alternatives --config java    #get java‘s path (stared one. such as ‘/usr/lib/jvm/java-7-openjdk-amd64/jre/bin/java‘. but we just need ‘/usr/lib/jvm/java-7-openjdk-amd64‘ this shorter path to set up JAVA_HOME environment variables)
37 sudo vi ~/.bashrc    #edit bashrc file
38
39 ##add the content below to the end of bashrc
40 #--------------------------------------------------------------#
41
42 #HADOOP VARIABLES START
43 export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
44 export HADOOP_INSTALL=/usr/local/hadoop-2.7.1
45 export PATH=$PATH:$HADOOP_INSTALL/bin
46 export PATH=$PATH:$HADOOP_INSTALL/sbin
47 export HADOOP_MAPRED_HOME=$HADOOP_INSTALL
48 export HADOOP_COMMON_HOME=$HADOOP_INSTALL
49 export HADOOP_HDFS_HOME=$HADOOP_INSTALL
50 export YARN_HOME=$HADOOP_INSTALL
51 export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_INSTALL/lib/native
52 export HADOOP_OPTS="-Djava.library.path=$HADOOP_INSTALL/lib"
53 #HADOOP VARIABLES END
54
55 #--------------------------------------------------------------#
56 source ~/.bashrc    #make the environment variables come into effect
57
58 ##configure hadoop
59 sudo vi /usr/local/hadoop-2.7.1/etc/hadoop/hadoop-env.sh     #edit hadoop-env.sh
60 ?JAVA_HOME    #(in vim) locate JAVA_HOME
61 #change ‘export JAVA_HOME=${JAVA_HOME}‘ into ‘export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64‘
62 source /usr/local/hadoop-2.7.1/etc/hadoop/hadoop-env.sh #update
63
64 ##test
65 cd /usr/local/hadoop-2.7.1/    #go there
66 sudo mkdir test
67 sudo cp README.txt test
68 bin/hadoop jar share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.7.1-sources.jar org.apache.hadoop.examples.WordCount input output
时间: 2024-12-20 10:05:06

[Hadoop]单机尝试安装并测试Hadoop2.7.1(附带注释脚本)的相关文章

3-1.Hadoop单机模式安装

Hadoop单机模式安装 一.实验介绍 1.1 实验内容 hadoop三种安装模式介绍 hadoop单机模式安装 测试安装 1.2 实验知识点 下载解压/环境变量配置 Linux/shell 测试WordCount程序 1.3 实验环境 hadoop2.7.6 Linux CentOS6终端 1.4 适合人群 本课程难度为一般,属于初级级别课程,适合具有linux基础的用户. 1.5 相关文件 https://pan.baidu.com/s/1a_Pjl8uJ2d_-r1hbN05fWA 二.H

Hadoop单机模式安装

需要先添加用来运行Hadoop进程的用户组hadoop及用户hadoop. 1. 添加用户及用户组 创建用户hadoop $ sudo adduser hadoop 需要输入shiyanlou的密码:shiyanlou.并按照提示输入hadoop用户的密码. 2. 添加sudo权限 将hadoop用户添加进sudo用户组 $ sudo usermod -G sudo hadoop 四.安装及配置依赖的软件包 1. 安装openssh-server.java.rsync等 $ sudo apt-g

Hadoop单机模式安装入门(Ubuntu系统)

闲来无事,突然看到关于Hadoop集群.以前也了解过,网上找过一些关于百度,谷歌等底层hadoop集群的文档,可是面对很多陌生的技术,看不太通透.所有想自己动手虚拟机试试.经常听到这么高大上的名词,Hadoop已经成为大数据的代名词.短短几年间,Hadoop从一种边缘技术成为事实上的标准.而另一方面,MapReduce在谷歌已不再显赫.当企业瞩目MapReduce的时候,谷歌好像早已进入到了下一个时代. Hadoop支持三种启动集群模式,分别是单机模式,wei分布式模式,安全分布式模式.下面我做

Hadoop单机模式安装-(2)安装Ubuntu虚拟机

网络上关于如何单机模式安装Hadoop的文章很多,按照其步骤走下来多数都失败,按照其操作弯路走过了不少但终究还是把问题都解决了,所以顺便自己详细记录下完整的安装过程. 此篇主要介绍在虚拟机设置完毕后,如何进行Ubuntu的安装. 我所记录的笔记适合没有Linux基础的朋友跟我一起操作,同时欢迎高手参观指导. 环境约定 以下环境基于攥写时间:5th July 2015. 宿主机器:Windows 8 虚拟机环境:WMware Wrokstation 11 Ubuntu版本:Ubuntu Deskt

Hadoop单机模式安装-(1)安装设置虚拟环境

网络上关于如何单机模式安装Hadoop的文章很多,按照其步骤走下来多数都失败,按照其操作弯路走过了不少但终究还是把问题都解决了,所以顺便自己详细记录下完整的安装过程. 此篇主要介绍如何在Windows环境下设置虚拟机环境以及一些准备工作,熟悉WMware的朋友可以略过. 我所记录的笔记适合没有Linux基础的朋友跟我一起操作,同时欢迎高手参观指导. 环境约定 以下环境基于攥写时间:5th July 2015. 宿主机器:Windows 8 虚拟机环境:WMware Wrokstation 11

hadoop多机安装YARN

hadoop伪分布安装称为测试环境安装,多机分布称为生成环境安装.以下安装没有进行HA(热备)和Federation(联邦).除非是性能需要,否则没必要安装Federation,HA可以一试,涉及到Zookeeper自动切换. 准备工作 1) linux优化 ①安装虚拟机linux系统,采用1.2 中的CentOS调优所有步骤,关闭防火墙:②设置网络为桥接模式(编辑虚拟机设置->网络适配器),查看自动分配ip或手动配置ip:③等JDK安装的JAVA_HOME(见1.3.1)和HADOOP_HOM

Hadoop 单机与完全分布式配置

Hadoop 单机模式安装配置 ? Hadoop 的单机模式安装非常简单,只需要配置好环境变量即可运行,这个模式一般用来学习和测试hadoop 的功能. 1.获取软件 http://hadoop.apache.org/ tar -xf hadoop-2.7.6.tar.gz -C ./ 2.安装配置 java 环境,安装 jps 工具 yum -y install java-1.8.0-openjdk-devel java-1.8.0-openjdk 3.设置环境变量,启劢运行 vim  etc

Ubuntu16.04下Hadoop的本地安装与配置

一.系统环境 os : Ubuntu 16.04 LTS 64bit java : 1.8.0_161 hadoop : 2.6.4 二.安装步骤 1.安装并配置ssh 1.1 安装ssh 输入命令:  $ sudo apt-get install openssh-server  ,安装完成后使用命令 $ ssh localhost 登录本机.首次登录会有提示,输入yes,接着输入当前用户登录电脑的密码即可. 1.2 配置ssh无密码登录 首先使用命令 $ exit 退出上一步的ssh,然后使用

#hadoop#单机(伪分布)安装及测试

tips:这个部署完全在以root用户操作,系统为ubuntu14.04,使用了Oracle JDK7_u55替换原来的OpenJDK 安装过程: 安装Java: 从自己的宿主机ftp服务器下载包: cd /usr/lib/jvm wget ftp://192.168.42.110/jdk-7u55-linux-x64.tar.gz  tar xvf jdk-7u55-linux-x64.tar.gz mv jdk1.7.0_55/ java-7-sun 编辑bashrc: vi ~/.bash