CentOS6.5安装RHadoop

1、首先安装依赖包(各个节点都要安装)

[[email protected] ~]$ yum install gcc-gfortran
#否则报”configure: error: No F77 compiler found”错误

[root@Hadoop-NN-01 ~]$ yum install gcc gcc-c++
#否则报”configure: error: C++ preprocessor “/lib/cpp” fails sanity check”错误

[root@Hadoop-NN-01 ~]$ yum install readline-devel
#否则报”–with-readline=yes (default) and headers/libs are not available”错误

[root@Hadoop-NN-01 ~]$ yum install libXt-devel
#否则报”configure: error: –with-x=yes (default) and X11 headers/libs are not available”错误

2、下载RHadoop相关软件包

R-3.2.5.tar.gz      #https://cran.rstudio.com/src/base/R-3/
rmr-3.3.1           #https://github.com/RevolutionAnalytics/rmr2
rhdfs-1.0.8
rhbase-1.2.1        #以上软件下载地址:https://github.com/RevolutionAnalytics/RHadoop/wiki/Downloads
rJava
reshape2
Rcpp
iterators
itertools
digest
RJSONIO
functional
bitops
stringr
plyr
caTools
Rserve              #以上软件下载地址:http://cran.at.r-project.org/src/contrib/Archive/
RStudio             #https://www.rstudio.com/products/rstudio/download/
Thrift              #https://thrift.apache.org/

3、安装R语言(各个节点都要安装)

[[email protected] mysofts]# tar zxf /mnt/mydisk/soft/R/R-3.2.5.tar.gz
[[email protected] mysofts]# cd R-3.2.5
[[email protected] R-3.2.5]# ./configure --enable-R-shlib
[[email protected] R-3.2.5]# make
[[email protected] R-3.2.5]# make install

其中readline-devel、libXt-devel在编译R的时候需要,而--enable-R-shlib是安装R的共享库,在安装Rstudio需要。

4、确认Java环境变量

RHadoop依赖于rJava包,安装rJava前确认已经配置了Java环境变量,然后进行R对jvm建立连接。

[email protected] ~]# R CMD javareconf

5、安装相关的依赖包,确保RHadoop软件包能正常使用

[[email protected] ~]# R
> install.packages("rJava")
> install.packages("reshape2")
> install.packages("Rcpp")
> install.packages("iterators")
> install.packages("itertools")
> install.packages("digest")
> install.packages("RJSONIO")
> install.packages("functional")
> install.packages("bitops")
> quit()

或者使用软件包安装:

[[email protected] mysofts]# R CMD INSTALL rJava_0.9-8.tar.gz
[[email protected] mysofts]# R CMD INSTALL Rcpp_0.12.3.tar.gz
[[email protected] mysofts]# R CMD INSTALL plyr_1.8.1.tar.gz
[[email protected] mysofts]# R CMD INSTALL stringr_0.6.tar.gz
[[email protected] mysofts]# R CMD INSTALL reshape2_1.4.tar.gz
[[email protected] mysofts]# R CMD INSTALL iterators_1.0.7.tar.gz
[[email protected] mysofts]# R CMD INSTALL itertools_0.1-1.tar.gz
[[email protected] mysofts]# R CMD INSTALL digest_0.6.8.tar.gz
[[email protected] mysofts]# R CMD INSTALL RJSONIO_1.2-0.2.tar.gz
[[email protected] mysofts]# R CMD INSTALL functional_0.4.tar.gz
[[email protected] mysofts]# R CMD INSTALL bitops_1.0-5.tar.gz
[[email protected] mysofts]# R CMD INSTALL caTools_1.17.tar.gz

6、安装RHadoop软件包

首先将下面的变量加入到环境变量中:

[[email protected] ~]# vi /etc/profile
export HADOOP_CMD=/home/hadoopuser/hadoop-2.6.0-cdh5.6.0/bin/hadoop
export HADOOP_STREAMING=/home/hadoopuser/hadoop-2.6.0-cdh5.6.0/share/hadoop/tools/lib/hadoop-streaming-2.6.0-cdh5.6.0.jar

[root@Hadoop-NN-01 ~]# source /etc/profile  #保存生效

安装

[[email protected] mysofts]# R CMD INSTALL rhdfs_1.0.8.tar.gz
[[email protected] mysofts]# R CMD INSTALL rmr2_3.3.0.tar.gz    #各个节点都要安装

7、使用RHadoop软件包

[[email protected] ~]# R
> library(rhdfs)
> hdfs.init()
> hdfs.ls("/")

8、安装Rstudio

[[email protected] mysofts]# tar xzvf rstudio-0.99.896-x86_64-fedora.tar.gz  #解压即用

9、TIPS

A:R相关的软件包安装在/usr/local/lib64/R/library下,可以在该目录下查看是否已经安装了相应的软件包。

B:如果安装的时候不是用root身份安装,则R安装的软件包会在用户目录上,其他用户将使用不了软件包。

C:在安装rhbase软件需要安装thrift,在后面章节介绍。

时间: 2024-10-18 07:50:19

CentOS6.5安装RHadoop的相关文章

如何在CentOS6上安装Python2.7和Python3.3

原文来自http://toomuchdata.com/2014/02/16/how-to-install-python-on-centos/,个人觉得对在linux安装新版本Python是很有参考意义,因而转载,原文是英文的,本人简单翻译下,大家看懂即可,有不妥的地方请留言. 如何在CentOS 6上同时安装Python 2.7和Python 3.3 本文将介绍如何在CentOS 6上安装Python 2.7和3.3.下面以Python 2.7.6和Python 3.3.5为例进行说明,但本人实

centos6.5安装docker

centos6.5 安装docker 防伪码:吃的苦中苦,方为人上人! 前言:在当今的主流社会中,docker和openstatick是一大主流方向,下面为大家讲解理论知识和实际操作现实中的docker! 理论知识: 相信大家都知道docker是什么?那在这里就不多说了! Docker 基于 Go 语言开发,代码托管在Github上,并遵循Apache 2.0 开源协议. docker的专业叫法是应用容器(Application Container). 为什么要使用docker? 1 .快速交付

CentOS6.5 安装+ Tengine + PHP + MySQL

centos6.5安装+Tengine+php+mysql

Centos6.4 安装fail2ban防暴力破解

Centos6.4 安装fail2ban防暴力破解 一. 安装 curl -O https://codeload.github.com/fail2ban/fail2ban/tar.gz/0.9.0 mv 0.9.0 0.9.0.tar.gz tar zxvf 0.9.0.tar.gz cd fail2ban-0.9.0/ python setup.py build python setup.py install 二.配置(防ssh暴力) vi /etc/fail2ban/jail.conf [s

CentOS-6.5安装配置JDK-7

安装说明 系统环境:centos-6.5 安装方式:rpm安装 软件:jdk-7-linux-x64.rpm 下载地址:http://www.oracle.com/technetwork/java/javase/downloads/java-se-jdk-7-download-432154.html 注:rpm,gz文件区别 初接解Linux的朋友一定对软件的安装特别头疼,同样都是for Linux,但RPM.tar.gz.DEB包还是有很大区别的,这种区别很有可能使你的安装过程进行不下去.那我

centos6.5安装和配置cobbler

Cobbler介绍 Cobbler 是一个系统启动服务(boot server),可以通过网络启动(PXE)的方式用来快速安装.重装物理服务器和虚拟机,支持安装不同的 Linux 发行版和 Windows.该工具使用python开发,小巧轻便(才15k行代码),使用简单的命令即可完成PXE网络安装环境的配置,同时还可以管理 DHCP,DNS,以及yum包镜像. Cobbler 使用命令行方式管理,也提供了基于 Web 的界面管理工具(cobbler-web),还提供了API接口,可以方便二次开发

CentOS6.4安装python2.7.3环境和Tornado

Centos6.4默认的python环境是2.6.6.我们可以自己安装Python 2.7.3. 但是值得注意的是,我们必须不能破坏系统的环境. 因为几个关键的实用应用程序依赖于Python2.6.6. 如果替换了系统的python环境就会发生很多难以预见的错误,导致要重装系统. 在没有破坏系统的python环境的情况下安装Python 2.7.3. 执行以下命令,请使 用root的身份登录或者使用sudo命令 一.安装Python 2.7.3 1. 安装开发工具 为了编辑Python,你必须要

CentOS6.5安装Cacti统计图乱码解决

这个就是rrdtool调用字体失败 安装字体即可 [[email protected] -]# yum -y install  cjkuni-ukai-fonts #安装字体 [[email protected] -]# fc-cache -f -v #刷新字体哦缓存 CentOS6.5安装Cacti统计图乱码解决,布布扣,bubuko.com

centos6.4安装lvs+keepalive

环境说明: [[email protected] html]# uname -a Linux db 2.6.32-358.el6.x86_64 #1 SMP Fri Feb 22 00:31:26 UTC 2013 x86_64 x86_64 x86_64 GNU/Linux [[email protected] html]# cat /etc/redhat-release  CentOS release 6.4 (Final) lvs安装部署: 1.查看内核模块是否支持 lsmod | gre