环境介绍：
在这两种装备centos6.4（32位置）的server安装Hadoop-2.5.1分布式集群（2台机器，主要试验用。哈哈）。
1．改动主机名和/etc/hosts文件
1）改动主机名（非必要）
vi /etc/sysconfig/network HOSTNAME=XXX
重新启动后生效。
2）/etc/hosts是ip地址和其相应主机名文件，使机器知道ip和主机名相应关系。格式例如以下：
#IPAddress HostName 192.168.1.67 MasterServer 192.168.1.241 SlaveServer
2．配置免password登陆SSH
1）生成密钥：
ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
以上是两个单引號。
2）将id_dsa.pub（公钥）追加到授权的key中：
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
3）将认证文件拷贝到其他节点上：
scp ~/.ssh/authorized_keys [email protected]:~/.ssh/
4）測试：
ssh SlaveServer
第一次要确认连接。输入yes就可以。
但我的仍要求输入password。原因是.ssh和authorized_keys权限不正确，详细见：http://blog.csdn.net/hwwn2009/article/details/39852457
3．各节点上安装jdk
1）选择的版本号是jdk-6u27-linux-i586.bin。下载地址：http://pan.baidu.com/s/1mgICcFA
2）上传到hadooper用户文件夹下。加入运行权限
chmod 777 jdk-6u27-linux-i586.bin
3）安装
./jdk-6u27-linux-i586.bin
4）配置环境变量：vi /etc/profile增加下面三行
#JAVA_HOME export JAVA_HOME=/usr/lib/jvm/jdk1.6/jdk1.6.0_27 export PATH=$JAVA_HOME/bin:$PATH
5）运行source /etc/profile使环境变量的配置生效
6）运行java –version查看jdk版本号，验证是否成功。
4. Hadoop安装
每台节点都要安装hadoop。
上传hadoop-2.5.1.tar.gz到用户hadooper文件夹下。
1）解压
tar -zvxf hadoop-2.5.1.tar.gz
2）加入环境变量：vi /etc/profile，尾部加入例如以下
export HADOOP_HOME=/home/hadooper/hadoop/hadoop-2.5.1 export HADOOP_COMMON_HOME=$HADOOP_HOME export HADOOP_HDFS_HOME=$HADOOP_HOME export HADOOP_MAPRED_HOME=$HADOOP_HOME export HADOOP_YARN_HOME=$HADOOP_HOME export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop export CLASSPATH=.:$JAVA_HOME/lib:$HADOOP_HOME/lib:$CLASSPATH export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
设置马上生效：
source /etc/profile
3）改动Hadoop配置文件
（1）core-site.xml
<property>
<name>fs.defaultFS</name>
<value>hdfs://MasterServer:9000</value>
</property>
（2）hdfs-site.xml
<property>
<name>dfs.replication</name> #值不应大于datanode数量
<value>1</value>
</property>
<property> <name>dfs.namenode.name.dir</name> #设置分布式文件系统存放于/home/hadooper/hadoop/dfs 的本地文件夹 <value>/home/hadooper/hadoop/dfs/name</value> <description> </description> </property> <property> <name>dfs.datanode.data.dir</name> <value>/home/hadooper/hadoop/dfs/data</value> <description> </description> </property> <property> <name>dfs.webhdfs.enabled</name> <value>true</value> </property>
注：訪问namenode的hdfs使用50070port，訪问datanode的webhdfs使用50075port。要想不区分port，直接使用namenode的IP和port进行全部的webhdfs操作，就须要在全部的datanode上都设置hdfs-site.xml中的dfs.webhdfs.enabled为true。
（3）mapred-site.xml
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>MasterServer:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>MasterServer:19888</value>
</property><span style="font-family: Arial, Helvetica, sans-serif;"> </span>
jobhistory是Hadoop自带了一个历史server，记录Mapreduce历史作业。
默认情况下。jobhistory没有启动。可用下面命令启动：
sbin/mr-jobhistory-daemon.sh start historyserver
（4）yarn-site.xml
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>MasterServer:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>MasterServer:8030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>MasterServer:8031</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>MasterServer:8033</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>MasterServer:8088</value>
</property>
（5）slaves
SlaveServer
（6）分别在hadoop-env.sh和yarn-env.sh中加入JAVA_HOME
export JAVA_HOME=/usr/lib/jvm/jdk1.6/jdk1.6.0_27
5.执行Hadoop
1）格式化
hdfs namenode –format
2）启动Hadoop
start-dfs.sh start-yarn.sh
也能够用一条命令：
start-all.sh
3）停止Hadoop
stop-all.sh
4）jps查看进程
7692 ResourceManager 8428 JobHistoryServer 7348 NameNode 14874 Jps 7539 SecondaryNameNode
5）通过浏览器查看集群执行状态
（1）http://192.168.1.67:50070
（2）http://192.168.1.67:8088/
（3）http://192.168.1.67:19888
watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaHd3bjIwMDk=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast" >
6. 执行Hadoop自带的wordcount演示样例
1）建立输入文件：
echo "My first hadoop example. Hello Hadoop in input. " > input
2）建立文件夹
hadoop fs -mkdir /user/hadooper
3）上传文件
hadoop fs -put input /user/hadooper
4）运行wordcount程序
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.1.jar wordcount /user/hadooper/input /user/hadooper/output
5）查看结果
hadoop fs -cat /user/hadooper/output/part-r-00000
Hadoop 1 My 1 example.Hello 1 first 1 hadoop 1 in 1 input. 1
转载请注明：http://blog.csdn.net/hwwn2009/article/details/39889465
版权声明：本文博主原创文章，博客，未经同意不得转载。