day11_CDH

1    ping www.baidu.com

2    修改hosts文件

3    关闭防火墙

4    互相免密登录,注意自己对自己的免密

ssh-keygen -t dsa -P ‘‘ -f ~/.ssh/id_dsa

cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

scp ~/.ssh/id_dsa.pub [email protected]:/home

scp ~/.ssh/id_dsa.pub [email protected]:/home

cat /home/id_dsa.pub >> ~/.ssh/authorized_keys

ssh cdh2

5   SELINUX关闭

getenforce  查看

setenforce 0  临时关闭

vi /etc/selinux/config (SELINUX=disabled) 永久

6   安装JDK配置环境变量

rpm -ivh jdk-7u67-linux-x64.rpm

vi /etc/profile

export JAVA_HOME=/usr/java/jdk1.7.0_67

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOMdE/lib/dt.jar:$JAVA_HOME/lib/tools.jar

source /etc/profile

java -version

7    安装NTP yum install ntp

设置NTP开机启动 chkconfig ntpd on

设置时间同步(配一个时间服务器)

ntpdate -u ntp.sjtu.edu.cn

date

8    安装配置mysql (第一个主机)

yum install mysql-server

service mysqld start

chkconfig mysqld on

chkconfig --list mysqld

mysql  show databases; use mysql; show tables;

设置mysql root用户登录权限 :root用户允许所有ip登录

GRANT ALL PRIVILEGES ON *.* TO ‘root‘@‘%‘ IDENTIFIED BY ‘123‘ WITH GRANT OPTION;

select host,user from user;

delete from user where host != ‘%‘;

flush privileges; 刷新权限

quit;

mysql -u root -p

9    安装第三方依赖包  (3台都要安装)

yum install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb -y

ClouderaManager 安装

1、安装Cloudera Manager Server、Agent  解压安装包

mkdir /opt/cloudera-manager 3个都要

tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager  server和agent都是这个脚本

2、创建CM管理员账户 cloudera-scm   3个都要

useradd --system --home=/opt/cloudera-manager/cm-5.0/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

查看 用户是否生成  cat /etc/passwd

3、在Agent上修改Agent配置文件  指定它的server的主机名以及端口,3台Agent都要配

修改文件vi /opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini中server_host以及server_port

4、配置Server的数据库 先看/usr/share下有没有,没有则创建

拷贝mysql的jar时,要拷贝到目录/usr/share/java/下

cp /home/mysoft/mysql-connector-java-5.1.26-bin.jar /usr/share/java

mv mysql-connector-java-5.1.26-bin.jar mysql-connector-java.jar

注意jar包名称要修改为mysql-connector-java.jar(CM是根据名称的匹配来找jar包)

在mysql里面给它创建一个临时的账户并授权,供我们CM建库的时候使用

grant all on *.* to ‘temp‘@‘%‘ identified by ‘temp‘ with grant option;(参考,本文件夹下的另一个mysql文档,即创建用户又分配了权限)

flush privileges; 刷新权限

cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/ 进到这个目录下,有一个脚本

./scm_prepare_database.sh mysql temp -h cdh1 -utemp -ptemp --scm-host cdh1 scm scm scm // 根据之前的脚本来创建数据库

格式:数据库类型、数据库用户、数据库服务器、用户名、密码、server服务器  后面3个是固定写法

5、创建Parcel目录

Server节点

mkdir -p /opt/cloudera/parcel-repo

chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo  修改为上面创建的那个CM账户的权限

Agent节点

–mkdir -p /opt/cloudera/parcels

–chown cloudera-scm:cloudera-scm /opt/cloudera/parcels 服务器会将安装包分发都各个机器的parcels文件夹

6、制作CDH本地源 (就是本机集成了 一大堆 服务安装包)

下载好文件CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel以及manifest.json,

将这两个文件放到server节点的/opt/cloudera/parcel-repo下。注意 parcel-repo这个目录是我们cdh在集群时会默认检查的一个目录

cp /home/mysoft/CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parce* /opt/cloudera/parcel-repo

cp /home/mysoft/manifest.json /opt/cloudera/parcel-repo

打开manifest.json文件,里面是json格式的配置,找到与下载版本相对应的hash码,新建文件,文件名与你的parel包名一致,并加上.sha后缀,将hash码复制到文件中保存。

7、启动CM Server、Agent  启动之前快照

cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/

./cloudera-scm-server start 启动时会特别慢 ,这步千万不要终止

输完命令后会提示 ok ,但实际并未完成,只是命令执行ok

看是否启动,要看日志

Sever首次启动会自动创建表以及数据,不要立即关闭或重启,否则需要删除所有表及数据重新安装

./cloudera-scm-agent start

若没有看见有3台主机,要看agent是否已经启动 ./cloudera-scm-agent status

8    关闭

web端停两个

命令端停两个 cd /opt/cloudera-manager/cm-5.4.3/etc/init.d

./cloudera-scm-agent stop(先关,3台)

./cloudera-scm-server stop

时间: 2024-07-30 11:51:05

day11_CDH的相关文章