【hadoop之翊】——CentOS6.5 Linux上面编译Hadoop2.4源代码

今天来说说编译hadoop源代码的事情吧~

1、首先下载源代码

地址:http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.4.0/

2、加压tar包到指定目录:/home/hadoop/soft/hadoop

tar zxvf hadoop-2.4.0-src.tar.gz

3、Linux编译环境准备

  • java环境准备

參照:http://blog.csdn.net/enson16855/article/details/8708574

  • maven环境

下载地址:http://maven.apache.org/download.cgi



watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvZW5zb24xNjg1NQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast" >

解压到指定目录:/home/hadoop/soft/

配置maven本地仓库,编辑maven下 conf/settings.xml文件

<localRepository>/home/hadoop/soft/repo</localRepository>

  • ant环境

下载地址:http://ant.apache.org/bindownload.cgi

以上maven,JDK,ant的配置例如以下:

root用户以下编辑/etc/profile

命令例如以下:

vim /etc/profile

在此文件最后面加上下面内容

export JAVA_HOME=/usr/java/jdk1.7.0_60
export PATH="$JAVA_HOME/bin:$PATH"

export MAVEN_HOME=/home/hadoop/soft/apache-maven-3.2.1
export PATH="$MAVEN_HOME/bin:$PATH"

export ANT_HOME=/home/hadoop/soft/apache-ant-1.9.4
export PATH="$ANT_HOME/bin:$PATH"

export HADOOP_PREFIX=/home/hadoop/soft/hadoop/hadoop-2.4.0
export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"
export PATH="$JAVA_HOME/:$HADOOP_PREFIX/bin:$PATH"
export HADOOP_PREFIX PATH CLASSPATH
  • openssl库的安装

採用yum方式安装,yum配置參照:http://blog.csdn.net/enson16855/article/details/9140623

命令例如以下:root用户哦~

yum install openssl
  • CMake安装

与openssl的安装一样,採用yum安装:

yum install cmake
  • protobuf的安装

下载:

wget https://protobuf.googlecode.com/files/protobuf-2.5.0.tar.gz

下载完毕解压:

tar zxvf protobuf-2.5.0.tar.gz

进入解压的目录中。运行下面命令:

sudo ./configure
sudo make
sudo make check
sudo make install
sudo ldconfig 

验证:

4、编译hadoop2.4源代码

运行下面命令:

mvn package -Pdist -DskipTests -Dtar 

进到~/hadoop-2.4.0-src/hadoop-dist/target目录中有:

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvZW5zb24xNjg1NQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast" >

时间: 2024-10-03 15:25:01

【hadoop之翊】——CentOS6.5 Linux上面编译Hadoop2.4源代码的相关文章

CentOS6.5 Linux上面编译Hadoop2.4源码

今天来说说编译hadoop源码的事情吧~ 1.首先下载源码 地址:http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.4.0/ 2.加压tar包到指定文件夹:/home/hadoop/soft/hadoop tar zxvf hadoop-2.4.0-src.tar.gz 3.Linux编译环境准备 java环境准备 参照:http://blog.csdn.net/enson16855/article/details/8708574 ma

CentOS-64bit编译Hadoop-2.5.源代码,并进行分布式安装

摘要 CentOS7-64bit 编译 Hadoop-2.5.0,并分布式安装 目录 1.系统环境说明 2.安装前的准备工作 2.1 关闭防火墙 2.2 检查ssh安装情况,如果没有则安装ssh 2.3 安装vim 2.4 设置静态ip地址 2.5 修改host名称 2.6 创建hadoop用户 2.7 配置ssh无密钥登录 3.安装必须的软件 3.1 安装JDK ##################################### [100%] #####################

linux下编译hadoop2.4.1源码

提示:最好在64位操作系统下编译.虚拟机内存不低于2G,硬盘空间不低于10G 首先安装google的protobuf yum install glibc-headersyum install gcc yum install gcc-c++ yum install makeyum install cmake yum install openssl-devel yum install ncurses-develtar zxvf protobuf-2.5.0.tar.gzcd protobuf-2.5

尝试在Linux上编译KestrelHttpServer

Kestrel是目前在非Windows平台上运行ASP.NET 5应用程序的唯一可用Web服务器,但微软似乎将它冷落在一边,源代码更新很慢. 今天试着在Linux上编译Kestrel的源代码,遇到了很多问题.在这篇博文中记录一下. 运行编译命令: ./build.sh 出错信息: -bash: ./build.sh: Permission denied 修复方法: chmod +x build.sh 再次编译,出错: ./build.sh: line 31: packages/KoreBuild

【hadoop之翊】——基于CentOS的hadoop2.4.0伪分布安装配置

今天总算是把hadoop2.4的整个开发环境弄好了,包括 windows7上eclipse连接hadoop,eclipse的配置和測试弄得烦躁的一逗比了~ 先上一张成功的图片,hadoop的伪分布式安装配置,仅仅要依照步骤来,有点基础的 基本没什么问题的..eclipse的配置 弄了非常长一段时间才弄好的,中间出现各种意外的错误..下篇博客将重点讲述这个艰难的过程... 今天来说说hadoop2.4的安装和配置吧~ 1.环境的准备: 系统:CentOS JDK版本号:jdk7 系统须要包括ssh

从零教你在Linux环境下(ubuntu)如何编译hadoop2.4

问题导读: 1.如果获取hadoop src  maven包?2.编译hadoop需要装哪些软件?3.如何编译hadoop2.4?扩展:编译hadoop为何安装这些软件? 本文链接 http://www.aboutyun.com/thread-8130-1-1.html 一.首先下载hadoop源码包下载的方式还是比较多的1.svn的方式svn下载首先需要安装SVN,如果想尝试使用svn,可以参考源码管理.获取网络源码工具:TortoiseSVN使用手册,hadoop的svn下载地址点此2.压缩

CentOS6.4编译Hadoop-2.4.0

因为搭建Hadoop环境的时候,所用的系统镜像是emi-centos-6.4-x86_64,是64位的,而hadoop是默认是32的安装包.这导致我们很多操作都会遇到这个问题(Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /opt/hadoop-2.4.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM w

CentOS6.5 Nginx优化编译配置

说到Nginx,它真的算是我在运维工作中的好朋友,它优异的性能和极高的工作效率实在是让人大爱,来自internet的报告称其epoll模型能够支持高达50000个并发连接数. Epoll[维基百科]: epoll是Linux下 多路复用IO接口select/poll的增强版本,它能显著提高程序在大量并发连接中只有少量活跃的情况下的系统CPU利用率,因为它会复用文件描述符 集合来传递结果而不用迫使开发者每次等待事件之前都必须重新准备要被侦听的文件描述符集合,另一点原因就是获取事件的时候,它无须遍历

centos6.5 64位下编译hadoop2.5.1源码

需要的工具:centos6.5 -64bit 需要的软件:java, svn, autoconf, automake, libtool, ncurses-devel, openssl-devel, gcc, lzo-devel, zlib-devel, znt, maven, protobuf, cmake 检测系统中是否已安装了某一软件命令:rpm -qa|grep 软件名,如检测系统中是否安装了svn: $ rpm -qa|grep svn 如果已安装,则跳过,如果没有安装,用命令:yum