hadoop安装(踩完坑终极版)

环境:CentOS 7.3 64位(64位的hadoop需要自己编译)

1、创建新用户

  useradd -m hadoop -s /bin/bash                   创建hadoop用户并使用/bin/bash作为shell

  passwd hadoop                给hadoop用户设置密码

  visudo                   给hadoop用户增加管理员权限,省得后面可能出现一些权限问题麻烦。在root    ALL=(ALL)       ALL下加上

                        hadoop  ALL=(ALL)       ALL

  ok使用hadoop登陆

2、配置ssh无密码登陆

  ssh-keygen                 生成密钥

  cd .ssh

  cat id_rsa.pub >> authorized_keys      加入授权

  chmod 600 ./authorized_keys        修改权限

3、安装java

  sudo rpm -ivh jdk-8u144-linux-x64.rpm

  sudo vim /etc/profile              配置环境变量

    加上export JAVA_HOME=/usr/java/default

      export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
      export PATH=$PATH:$JAVA_HOME/bin

4、sudo yum install cmake lzo-devel zlib-devel gcc gcc-c++ autoconf automake libtool ncurses-devel openssl-devel libXtst    (编译用)

5、安装protobuf(编译hadoop用)

  sudo tar -zxf protobuf-2.5.0.tar.gz -C /usr/local/                 protobuf下载地址:

  sudo mv protobuf-2.5.0/ protobuf

  sudo ./configure

  sudo make
  sudo make install
  protoc --version

6、安装maven(编译hadoop用)

  sudo tar -zxf apache-maven-3.5.0-bin.tar.gz -C /usr/

  配置环境变量

  export MAVEN_HOME=/usr/apache-maven-3.5.0

  export PATH=$PATH:$MAVEN_HOME/bin

7、编译

  解压hadoop源码包

  mvn clean package -Pdist,native -DskipTests -Dtar      编译,比较慢多等等

  成功后,在hadoop-dist/target可以找到编译好的包

时间: 2024-10-27 22:51:40

hadoop安装(踩完坑终极版)的相关文章

hadoop安装踩坑

切记!!!!! 没有比官网教程更详细,更靠谱的教程!!!!! 其他的基本都是官网的翻译,但是官网的教程是实时更新的,要是不注意版本,坑根本就踩不完!!! 附上官网部署教程: https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/SingleCluster.html 单节点的安装只需要关注两个点: 1.linux安装的java版本,各个版本的hadoop对java版本是要求的,具体信息如下: https://

Hadoop安装 1.0(简版)

前提: 一定要保证iptables是关闭的并且selinux是disabled 1.准备硬件 1台namenode和3台datanode namenode 192.168.137.100 datanode1 192.168.137.101 datanode2 192.168.137.102 datanode3 192.168.137.103 2.在4台机器上建立hadoop用户(也可以是别的用户名) useradd hadoop 3.在4台机器上安装JDK 1.6 安装后的JAVA_HOME放在

pyechars模块安装踩得坑

目前搜索的出来的文档,都是老版本写的,如果安装最新版本的,写的代码还是网上那种方式,会报如下错误: 所以我们如果看的网上的这种代码,不是看的原说明文档,那么就安装一个老版本的吧,我安装的是0.5.11 pip install pyecharts==0.5.11 安装好之后,运行如上的代码,仍然会报错误,提示如下: ModuleNotFoundError: No module named 'pyecharts_snapshot' 出现这个错误,说明没有该模块,那么安装该模块就可以解决了 pip i

Ubuntu中安装FTP 服务器自己踩得坑

12点多了,擦!做个码农真不容易呀! 系统:Ubuntu16.04 安装:FTP 步骤: 1.不管有没有一上来我先卸载: sudo apt-get purge vsftpd 2.再安装:sudo apt-get install vsftpd 3.创建ftp用户: 创建用户目录 sudo mkdir /home/uftp 创建用户 sudo useradd -d /home/uftp -s /bin/bash uftp 修改密码 sudo passwd uftp#这里会提示你输入二次密码 4配置v

转载:Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04

原文 http://www.powerxing.com/install-hadoop/ 当开始着手实践 Hadoop 时,安装 Hadoop 往往会成为新手的一道门槛.尽管安装其实很简单,书上有写到,官方网站也有 Hadoop 安装配置教程,但由于对 Linux 环境不熟悉,书上跟官网上简略的安装步骤新手往往 Hold 不住.加上网上不少教程也甚是坑,导致新手折腾老几天愣是没装好,很是打击学习热情. 本教程适合于原生 Hadoop 2,包括 Hadoop 2.6.0, Hadoop 2.7.1

hadoop安装和hadoop pipes编程说明

本篇文章主要是对hadoop pipes编程的一些问题的备注,对于网上常见的问题,并未完全写入. 安装 基础环境:3台基于centos7的虚拟机(1个master,2个slave:slave1.slave2).hadoop-2.6.0 1. hadoop安装主要参考的网址是:hadoop参考安装 2. linux配置ssh免密码登录,具体参考的是:centos ssh免密码登录 tips: 1. 三个虚拟机的一定要用一样的帐号,即用户名.如果不一样的话,通过ssh进行免密码登录时会出现问题.比如

Hadoop实战视频教程完整版 完整的Hadoop大数据视频教程

分享一套迪伦老师的完整的Hadoop实战视频教程,教程从学习Hadoop需要的数据库.Java和Linux基础讲起,非常适合零基础的学员,课程最后结合了实战项目演练,理论结合实战,深入浅出,绝对是当前最为完整.实战的Hadoop教程. <Hadoop大数据零基础高端实战培训系列配文本挖掘项目(七大亮点.十大目标)> 课程讲师:迪伦 课程分类:大数据 适合人群:初级 课时数量:230课时 用到技术:部署Hadoop集群 涉及项目:京东商城.百度.阿里巴巴 咨询QQ:1337192913(小公子)

hadoop安装教程

hadoop的核心 Hadoop的核心就是HDFS和MapReduce,而两者只是理论基础,不是具体可使用的高级应用,Hadoop旗下有很多经典子项目,比如HBase.Hive等,这些都是基于HDFS和MapReduce发展出来的.要想了解Hadoop,就必须知道HDFS和MapReduce是什么. HDFS HDFS(Hadoop Distributed File System,Hadoop分布式文件系统),它是一个高度容错性的系统,适合部署在廉价的机器上.HDFS能提供高吞吐量的数据访问,适

[转]py编码终极版

py编码终极版 原文链接:http://www.cnblogs.com/yuanchenqi/articles/5956943.html 一 什么是编码? 基本概念很简单.首先,我们从一段信息即消息说起,消息以人类可以理解.易懂的表示存在.我打算将这种表示称为"明文"(plain text).对于说英语的人,纸张上打印的或屏幕上显示的英文单词都算作明文. 其次,我们需要能将明文表示的消息转成另外某种表示,我们还需要能将编码文本转回成明文.从明文到编码文本的转换称为"编码&qu