[原创]CentOS 6 Ambari Hadoop平台的安装(本地库)

1. 安装前的准备

1.1 硬件要求

无特殊需求(根据Hadoop各个组件需求及实际情况,一般建议单个集群的机器数量在3台及以上:1台Master结点,2台机器作为Slave结点)。

1.2 软件要求

1.2.1 操作系统

仅支持如下操作系统:

  • Red Hat Enterprise Linux (RHEL) v5.x or 6.x (64-bit)
  • CentOS v5.x or 6.x (64-bit)
  • SUSE Linux Enterprise Server (SLES) 11, SP1 (64-bit)

1.2.2 浏览器

Ambari Web接口运行的浏览器需求如下:

Windows (Vista, 7)

  • Internet Explorer 9.0 and higher
  • Firefox latest stable release
  • Safari latest stable release
  • Google Chrome latest stable release

Mac OS X (10.6 or later)

  • Firefox latest stable release
  • Safari latest stable release
  • Google Chrome latest stable release

Linux (RHEL, CentOS, SLES)

  • Firefox latest stable release
  • Google Chrome latest stable release

1.2.3 数据库

Hadoop的一些组件需要用到传统关系型数据库。如MySQL,Derby,PostgreSQL。

1.3 安装环境准备

1.3.1 地址映射


配置详情


# vi /etc/hosts

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4

::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.31.3    <主机的全名,如john.smith>

1.3.2 SSH无密码登录

确保ssh版本最新,sshd服务开启。


配置详情


1)        确认是否已经安装ssh

# rpm -qa | grep ssh

# yum install ssh //上条命令无输出时

2)        修改配置文件

# vi /etc/ssh/sshd_config

RSAAuthentication yes         # 启用 RSA 认证

PubkeyAuthentication yes       # 启用公钥私钥配对认证方式

AuthorizedKeysFile .ssh/authorized_keys      # 公钥文件路径

# service sshd restart //重启sshd服务

3)        生成秘钥

$ ssh-keygen -t rsa

Tips:敲完命令,一直回车,直到命令结束生成如下类似的图案

图1-1 生成秘钥

图1-2 生成的秘钥

4)        添加公钥

$ cat .ssh/id_rsa >> .ssh/authorized_keys

Tips.ssh 700, authorized_keys 644

图1-3 配置成功

1.3.3 关闭SELinux


命令:临时关闭


# setenforce 0


命令:永久关闭


#vi /etc/selinux/config

config

# This file controls the state of SELinux on the system.
# SELINUX= can take one of these three values:
#       enforcing - SELinux security policy is enforced.
#       permissive - SELinux prints warnings instead of enforcing.
#       disabled - SELinux is fully disabled.
SELINUX=disabled 
# SELINUXTYPE= type of policy in use. Possible values are:
#       targeted - Only targeted network daemons are protected.
#       strict - Full SELinux protection.
SELINUXTYPE=targeted

1.3.4 关闭iptables


命令


#chkconfig iptables off

#/etc/init.d/iptables stop

1.3.5 关闭Packagekit


命令


#vi /etc/yum/pluginconf.d/refresh-packagekit.conf

enabled=0

1.3.6 NTP

针对集群,需要一台时间同步服务器,确保集群时间同步,若差距太大,很多组件无法正常运行。


命令


# rpm -qa | grep ntp //查看是否已经安装NTP

# yum install ntp //安装NTP

# vi /etc/ntp.conf

// restrict default kod nomodify notrap nopeer noquery 改为

restrict default nomodify

// 添加/修改上一层时间同步服务器

server 0.cn.pool.ntp.org

server 0.asia.pool.ntp.org

server 2.asia.pool.ntp.org

# chkconfig ntpd on

# service ntpd start

1.3.7 卸载OpenJDK安装Oracle JDK


命令


#rpm -qa | grep java

#rpm -e --nodeps xxx

#rpm -ivh xxx.rpm

#vi /etc/profiles

//配置 JAVA_HOME

export JAVA_HOME=/xxx

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

#source /etc/profiles

1.3.8 安装、配置PostgreSQL或MySQL


PostgreSQL安装命令


# wget https://download.postgresql.org/pub/repos/yum/9.2/redhat/rhel-6-x86_64/pgdg-centos92-9.2-8.noarch.rpm

# rpm –ivh xxxx.rpm

# vi /etc/yum.repos.d/ CentOS-Base.repo

[base]

exclude=postgresql*

[updates]

exclude=postgresql*

# yum upgrade postgresql-libs 

# yum install postgresql92-server

# service postgresql-9.2 initdb

# service postgresql-9.2 start

# psql -U postgres

//修改配置文件/var/lib/pgsql/9.1/data/pg_hba.conf 将peer改为trust,将METHOD由默认的ident改为md5,再重启服务


MySQL安装、部署命令


# rpm -qa | grep mysql

# rpm -e --nodeps mysql  //卸载原有的MySQL

# yum install -y mysql-server mysql mysql-devel

# service mysqld start

# chkconfig mysqld on  //开机启动mysqld服务

# mysqladmin -u root password ‘root‘ //初始化数据库root账户

1.3.9 安装MySQL依赖


命令


# yum install mysql-connector-java

# chmod 644 /usr/share/java/<mysql-connector-java.jar>

1.3.10 UMASK


命令


#echo umask 0022 >> /etc/profile

1.3.11 搭建本地库

(1)      基本依赖组件安装


命令


# yum install createrepo

# yum install openssl

# yum install nc

# yum install redhat-lsb

# yum install gcc

# yum install python-devel

# yum install python-libs

(2)      下载相关文件


ITEMS


URLS


Ambari 2.2.2


http://public-repo-1.hortonworks.com/ambari/centos6/2.x/updates/2.2.2.0/

ambari-2.2.2.0-centos6.tar.gz


HDP 2.4


http://public-repo-1.hortonworks.com/HDP/centos6/2.x/

updates/2.4.2.0/HDP-2.4.2.0-centos6-rpm.tar.gz


HDP-UTILS


http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.20/

repos/centos6/HDP-UTILS-1.1.0.20-centos6.tar.gz

(3)      安装Apache httpd


命令


# yum install httpd

# chkconfig --levels 235 httpd on

# /etc/init.d/httpd start

# mkdir -p /var/www/html/ambari

# mkdir -p /var/www/html/hdp

# mkdir -p /var/www/html/hdp-utils

//打开浏览器,键入http://localhost会出现如下类似的页面,表面安装并开启成功。

(4)      解压、配置repo文件


命令


# tar -zxvf ambari-2.2.2.0-centos6.tar.gz -C  /var/www/html/ambari

# tar -zxvf HDP-2.4.2.0-centos6-rpm.tar.gz -C  /var/www/html/hdp

# tar -zxvf HDP-UTILS-1.1.0.20-centos6.tar.gz -C  /var/www/html/hdp-utils

# vi ambari.repo

[Updates-ambari-2.2.2.0]

name=ambari-2.2.2.0-Updates

baseurl=http://192.168.31.3/ambari/AMBARI-2.2.2.0/centos6/2.2.2.0-460/

gpgcheck=1

gpgkey=http://public-repo-1.hortonworks.com/ambari/centos6/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins

enabled=1

priority=1

# vi hdp.repo

[HDP-2.4.2.0]

name=HDPVersion-HDP-2.4.2.0

baseurl=http://192.168.31.3/hdp/HDP/centos6/2.x/updates/2.4.2.0/

gpgcheck=1

gpgkey=http://public-repo-1.hortonworks.com/HDP/centos6/2.x/updates/2.4.2.0/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins

enabled=1

priority=1

# vi hdp-utils.repo

[HDP-UTILS-1.1.0.20]

name=HDPUtilsVersion-HDP-UTILS-1.1.0.20

baseurl=http://192.168.31.3/hdp-utils/HDP-UTILS-1.1.0.20/repos/centos6/

gpgcheck=1

gpgkey=http://public-repo-1.hortonworks.com/HDP/centos6/2.x/updates/2.4.2.0/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins

enabled=1

priority=1

# cp ambari.repo /etc/yum.repos.d/

# cp hdp.repo /etc/yum.repos.d/

# cp hdp-utils.repo /etc/yum.repos.d/

//打开编辑的链接,可以看到解压出的文件已经挂在httpd上了。

2. Ambari组件安装

2.1 Ambari server


命令


# yum install ambari-server

# ambari-server start //启动服务

# ambari-server status //状态查看

 

//初始化数据库(以MySQL为例)

# mysql -u root -p

mysql> CREATE USER ‘<AMBARIUSER>‘@‘%‘ IDENTIFIED BY ‘<AMBARIPASSWORD>‘;

mysql> GRANT ALL PRIVILEGES ON *.* TO ‘<AMBARIUSER>‘@‘%‘;

mysql> CREATE USER ‘<AMBARIUSER>‘@‘localhost‘ IDENTIFIED BY ‘<AMBARIPASSWORD>‘;

mysql> GRANT ALL PRIVILEGES ON *.* TO ‘<AMBARIUSER>‘@‘localhost‘;

mysql> CREATE USER ‘<AMBARIUSER>‘@‘<AMBARISERVERFQDN>‘ IDENTIFIED BY ‘<AMBARIPASSWORD>‘;

mysql> GRANT ALL PRIVILEGES ON *.* TO ‘<AMBARIUSER>‘@‘<AMBARISERVERFQDN>‘;

mysql> FLUSH PRIVILEGES;

 

# ambari-server setup //根据提示进行

//若以上安装过程未能成功初始化ambari数据库,则切换用户,手动导入 Ambari的元数据

#mysql -u <AMBARIUSER> -p

mysql> CREATE DATABASE <AMBARIDATABASE>;

mysql> USE <AMBARIDATABASE>;

mysql> SOURCE Ambari-DDL-MySQL-CREATE.sql;

 

注:<AMBARIUSER><AMBARIPASSWORD><AMBARISERVERFQDN>等在实际安装的过程中应根据具体的情况替换。

2.2 Ambari Agent

Ambari agent 按安装完Server之后,可以通过其WebUI进行安装,但在WebUI上安装成功率不高,可以通过手动安装。


命令


# yum install ambari-agent -y

# ambari-agent start

# ambari-agent status //状态查看

3. 大数据组件安装

(1) 确保ambari-server 启动,默认通过http://localhost:8080 登录Ambari WebUI,默认的登录密码是admin/admin。界面如下图所示:

(2) 登录成功,准备安装集群。

【声明】转载请注明出处

时间: 2024-08-05 19:27:26

[原创]CentOS 6 Ambari Hadoop平台的安装(本地库)的相关文章

ambari本地源自动化安装hortonworks hadoop(转)

原文地址:http://blog.chinaunix.net/xmlrpc.php?r=blog/article&uid=26230811&id=4023821 环境配置 Hostname IP OS Ambari 172.16.235.164 Centos X64 base install Maste.hadoop 172.16.235.165 Centos X64 base install Datanode1.hadoop 172.16.235.166 Centos X64 base

高可用Hadoop平台-Ganglia安装部署

1.概述 最近,有朋友私密我,Hadoop有什么好的监控工具,其实,Hadoop的监控工具还是蛮多的.今天给大家分享一个老牌监控工具Ganglia,这个在企业用的也算是比较多的,Hadoop对它的兼容也很好,不过就是监控界面就不是很美观.下次给大家介绍另一款工具——Hue,这个界面官方称为Hadoop UI,界面美观,功能也比较丰富.今天,在这里主要给大家介绍Ganglia这款监控工具,介绍的内容主要包含如下: Ganglia背景 Ganglia安装部署.配置 Hadoop集群配置Ganglia

Windows平台下安装Hadoop

1.安装JDK1.6或更高版本 官网下载JDK,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置Hadoop的配置文件时会找不到JDK(按相关说法,配置文件中的路径加引号即可解决,但我没测试成功). 2.安装Cygwin Cygwin是Windows平台下模拟Unix环境的工具,需要在安装Cygwin的基础上安装Hadoop,下载地址:http://www.cygwin.com/ 根据操作系统的需要下载32位或64的安装文件. 1).双击下载好的安装文

[转]Windows平台下安装Hadoop

1.安装JDK1.6或更高版本 官网下载JDK,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置Hadoop的配置文件时会找不到JDK(按相关说法,配置文件中的路径加引号即可解决,但我没测试成功). 2.安装Cygwin Cygwin是Windows平台下模拟Unix环境的工具,需要在安装Cygwin的基础上安装Hadoop,下载地址:http://www.cygwin.com/ 根据操作系统的需要下载32位或64的安装文件. 1).双击下载好的安装文

Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS

摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否则请先查看Hadoop安装教程_单机/伪分布式配置 或 CentOS安装Hadoop_单机/伪分布式配置. 本教程适合于原生 Hadoop 2,包括 Hadoop 2.6.0, Hadoop 2.7.1 等版本,主要参考了官方安装教程,步骤详细,辅以适当说明,保证按照步骤来,都能顺利安装并运行 Ha

hadoop分布式安装部署具体视频教程(网盘附配好环境的CentOS虚拟机文件/hadoop配置文件)

參考资源下载:http://pan.baidu.com/s/1ntwUij3视频安装教程:hadoop安装.flvVirtualBox虚拟机:hadoop.part1-part5.rarhadoop文件:hadoop-2.2.0.tar.gzhadoop配置文件:hadoop_conf.tar.gzhadoop学习教程:炼数成金-hadoop 虚拟机下载安装:VirtualBox-4.3.12-93733-Win.exehttp://dlc.sun.com.edgesuite.net/virtu

大数据之Hadoop平台(二)Centos6.5(64bit)Hadoop2.5.1伪分布式安装记录,wordcount运行测试

注意:以下安装步骤在Centos6.5操作系统中进行,安装步骤同样适于其他操作系统,如有同学使用Ubuntu等其他Linux操作系统,只需注意个别命令略有不同. 注意一下不同用户权限的操作,比如关闭防火墙,需要用root权限. 单节点的hadoop安装出现的问题会在如下几个方面:JDK环境的配置.防火墙是否关闭.root用户和hadoop用户的不同操作等. 在搭建的过程中细心一点,按照下面的步骤做,基本不会有什么问题的. 一.准备工作(root用户) 1.关闭防火墙 关闭防火墙:service

大数据平台一键安装OS【定制化OS镜像制作】

 定制化 大数据平台一键安装OS 大数据平台一键安装OS系列 大数据平台一键安装OS[搭建脚本篇] 定制化OS镜像制作 1.操作环境 操作环境:VMware Workstarion 9 and vSphere client 系统:CentOS -6.8-x86_64 工具:gconf-editor anaconda repodata createrepo mkisofs rsync 2.主要思路 定制化是通过kickstart脚本来实现的,linux系统安装完毕后在root目录下会生成anaco

大数据平台一键安装OS【搭建脚本篇】

定制化大数据平台一键安装OS 大数据平台一键安装OS系列 大数据平台一键安装OS[定制化OS镜像制作] 搭建脚本篇 脚本命名随便,只要能看懂就行 镜像包说明 os1.1.iso 用于安装服务端和客户端操作系统 hdp.iso 用于安装hdp服务 1.架构图: 服务端 客户端 2.原理分析 安装系统-安装本地yum源-安装http源-安装并配置ntp服务-配置秘钥-安装jdk-安装mysql-编译安装ambari平台 3.服务端脚本分析 (1)create_local_yum.sh #安装本地yu