hadoop2.4.1源码编译步骤 hive0.13.1编译

-----------hadoop编译

1、编译环境

CentOS6.5  64位

jdk1.7.0_71

maven-3.2.3

hadoop2.4.1

2、安装JDK,maven

3、安装protoc

在hadoop2.X版本的编译时,需要protoc的支持,hadoop2.4.1需要protoc2.5.0,protoc是google开发的,需要自已下载并安装。安装protoc需要先安装几个依赖包,root用户执行以下命令即可:

yum install gcc

yum install gcc-c++

yum install make

安装protoc,如下:

tar -xvf protobuf-2.5.0.tar.bz2

cd protobuf-2.5.0

./configure --prefix=/opt/protoc/

make && make install

4、配置环境变量

#--------------------------------
#protobuf relate
#---------------------------------
export PATH=/home/ocdc/source/protobuf-2.5.0/src:$PATH
#--------------------------------
#Java related
#---------------------------------
export JAVA_HOME=/home/ocdc/bin/jdk1.7.0_71
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

#--------------------------------
# Maven related
#-------------------------------
export M2_HOME=/home/ocdc/bin/apache-maven-3.2.3
export PATH=$M2_HOME/bin:$PATH

#--------------------------------
# Scala related
#-------------------------------
export SCALA_HOME=/home/ocdc/bin/scala-2.10.4
export PATH=$SCALA_HOME/bin:$PATH

5、安装cmake,openssl-devel,ncurses-devel

yum install cmake

yum install openssl-devel

yum install ncurses-devel

6、maven编译

mvn package -Pdist,native -DskipTests -Dtar

7、编译结果

-----------hive编译

hive的编译就简单到没话可说了,唯一需要注意的就是,在编译hive的时候,需要选择hadoop的版本如下所示:

选择hadoop1的版本执行:

mvn clean package -Phadoop-1 -Pdist -DskipTests -Dtar

选择hadoop2的版本执行:

mvn clean package -Phadoop-2 -Pdist -DskipTests -Dtar
时间: 2024-11-04 13:41:12

hadoop2.4.1源码编译步骤 hive0.13.1编译的相关文章

centos6.5 64位下编译hadoop2.5.1源码

需要的工具:centos6.5 -64bit 需要的软件:java, svn, autoconf, automake, libtool, ncurses-devel, openssl-devel, gcc, lzo-devel, zlib-devel, znt, maven, protobuf, cmake 检测系统中是否已安装了某一软件命令:rpm -qa|grep 软件名,如检测系统中是否安装了svn: $ rpm -qa|grep svn 如果已安装,则跳过,如果没有安装,用命令:yum

编译hadoop2.2.0源码时报错

编译hadoop2.2.0源码时, mvn install -DskipTests 报错: [ERROR] COMPILATION ERROR : [INFO] ------------------------------------------------------------- [ERROR] /home/test/work/env/hadoop/hadoop-2.2.0-src/hadoop-common-project/hadoop-auth/src/test/java/org/apa

极速彩源码搭建步骤 Java 开发者都应该知道的 5 个注解

自 JDK5 推出以来,注解已成为Java生态系统不可缺少的一部分.虽然开发者为Java框架(例如Spring的@Autowired)开发了无数的自定义注解,但编译器认可的一些注解非常重要. 在本文中,极速彩源码搭建bbs.yasewl.com我们将看到5个Java编译器支持的注解,并了解其期望用途.顺便,我们将探索其创建背后的基本原理,围绕其用途的一些特质,以及正确应用的一些例子.虽然其中有些注解比其他注解更为常见,但非初学Java开发人员都应该消化了解每个注解. 首先,我们将深入研究Java

《python源码剖析》笔记 Python的编译结果

本文为senlie原创,转载请保留此地址:http://blog.csdn.net/zhengsenlie 1.python的执行过程 1)对python源代码进行编译,产生字节码 2)将编译结果交给python虚拟机,由虚拟机按照顺序一条一条地执行字节码,产生执行结果 图7-1 2.Python编译器的编译结果--PyCodeObject对象 Python编译器的编译结果中包含了字符串.常量值.字节码等在源代码中出现的一切有用的静态信息. 在Python运行期间,这些静态信息被PyCodeOb

zabbix3.4源码安装步骤

zabbix3.4源码安装步骤1.安装环境: 安装机器:22.224.9.227 以下简称监控机: 操作系统信息:内核版本: Linux version 2.6.18-194.1.AXS3 ([email protected]) (gcc version 4.1.2 20080704 (Asianux 3.0 4.1.2-48)) #1 SMP Fri May 7 10:03:53 CST 2010 发行版本: Red Flag Asianux Server 3 for x86_64 (Quar

Win7 32bit下hadoop2.5.1源码编译与平台搭建中遇到的各种错误

本文从一个小白在安装hadoop遇到的各种困难和错误说起,也希望得到大神的指点. 首先hadoop更新很快,最新的是hadoop2.5.1,因此就介绍下在安装2.5.1时遇到的各种困难. 如果直接准备在系统上安装binary版本的,可以参考http://www.cnblogs.com/kinglau/p/3270160.html.在下载好hadoop文件时,一定要注意下载的hadoop版本是否与本机的系统版本相对应,如32bit的还是64bit的,否则在执行start-all.sh时会报错.我就

编译hadoop2.6.0源码

最近在玩hadoop,发现官网下的二进制包经常包警告,不爽,不如自己编译安装 1. 下载源码 2. 安装编译环境(gcc build-essential ....) 3. 安装protobuf (编译hadoop需要用) 4. 安装mvn 5. 在解压源码目录执行mvn -Pdist,native -DskipTests -Dtar 6. 在源码目录下多了个 hadoop-dist 目录,没错就是你要的 ps: 编译过程中报错,根据报错信息安装需要的软件包(例如:cmake....)

ubutun14.04编译hadoop-2.6.0源码,并生成eclipse项目

1.安装jdk 2. 安装需要的库 sudo apt-get install g++ autoconf automake libtool make cmake zlib1g-dev pkg-config libssl-dev 3. sudo apt-get install openssh-client sudo apt-get install openssh-server -进入到用户目录运行命令: -ssh-keygen -t rsa -P -cat .ssh/id_rsa.pub >> .

Ubuntu14.04 32位上编译VLC2.2.0源码操作步骤

1.  首先安装必须的依赖软件,打开终端,执行: sudo apt-get install git libtool build-essential pkg-config autoconf 2. 从http://www.videolan.org/vlc/download-sources.html 下载vlc-2.2.0源码,将其存放到/home/spring/VLC目录下,解压缩: xz -dk vlc-2.2.0.tar.xz tar xvf vlc-2.2.0.tar 3. 获取第三方库: c