Hadoop 离线安装 CDH5.1 第二章:cloudera manager与agent 安装

新建cloudera-scm用户 (做了分行,这个是一条linux命令,)

[[email protected] cloudera-manager-5.1.0]$ sudo useradd --system 
--home=/opt/cloudera-manager-5.1.0/run/cloudera-scm-server 
--no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

改/opt/cloudera-manager-5.1.0/etc/cloudera-scm-agent/config.ini 里的 server_port 和 server_host ,把server_port
改成ClouderaManager运行的主机名或ip, 默认server_port 端口是 7182

[[email protected] cloudera-scm-agent]$ sudo vim config.ini
[General]
# Hostname of the CM server.
server_host=localhost

# Port that the CM server is listening on.
server_port=7182

为Cloudera Manager 建立数据库,需要下载Mysql的JDBC驱动,本次从搜狐镜像上下载最新版

http://mirrors.sohu.com/mysql/Connector-J/mysql-connector-java-5.1.32.tar.gz

解压
之后找到mysql-connector-java-5.1.32-bin.jar放到/opt/cloudera-manager-5.1.0/share/cmf/lib/目录下

参考链接:

http://www.cloudera.com/content/cloudera-content/cloudera-docs/CM5/latest/Cloudera-Manager-Installation-Guide/cm5ig_install_path_C.html

http://www.cloudera.com/content/cloudera-content/cloudera-docs/CM5/latest/Cloudera-Manager-Installation-Guide/cm5ig_installing_configuring_dbs.html#cmig_topic_5_2_unique_1 数据库配置方法

[[email protected] mysql-connector-java-5.1.32]$ sudo cp mysql-connector-java-5.1.32-bin.jar

 /opt/cloudera-manager-5.1.0/share/cmf/lib/

生成数据库:(关于密码这里有个小小的坑,如果你遇到过不去的地方,私信我)

[[email protected] schema]$ pwd
/opt/cloudera-manager-5.1.0/share/cmf/schema
[[email protected] schema]$ sudo ./scm_prepare_database.sh mysql -h localhost -u root 
-phadoop --scm-host localhost scm scm scm       
Verifying that we can write to /opt/cloudera-manager-5.1.0/etc/cloudera-scm-server
Creating SCM configuration file in /opt/cloudera-manager-5.1.0/etc/cloudera-scm-server
Executing:  /usr/java/jdk1.7.0_67/bin/java -cp /usr/share/java/mysql-connector-java.jar:/usr/share/java/oracle-connector-java.jar:/opt/cloudera-manager-5.1.0/share/cmf/schema/../lib/* com.cloudera.enterprise.dbutil.DbCommandExecutor /opt/cloudera-manager-5.1.0/etc/cloudera-scm-server/db.properties com.cloudera.cmf.db.
[                          main] DbCommandExecutor              INFO  Successfully connected to database.
All done, your SCM database is configured correctly!

启动SCM server

[[email protected] init.d]$ sudo ./cloudera-scm-server start
Starting cloudera-scm-server:                              [  OK  ]
[[email protected] init.d]$ pwd
/opt/cloudera-manager-5.1.0/etc/init.d

设置成开机启动

[[email protected] init.d]$ sudo cp cloudera-scm-server /etc/init.d/cloudera-scm-server
[[email protected] init.d]$ sudo chkconfig cloudera-scm-server on

将客户端脚本拷贝到客户机上

先SCP 编好的目录 到所有机器上 ,然后在每台机器上开启Agents端:

[[email protected] opt]$ sudo scp -r /opt/cloudera-manager-5.1.0/  [email protected]:/opt/
[[email protected] opt]$ sudo scp -r /opt/cloudera-manager-5.1.0/  [email protected]:/opt/
[[email protected] opt]$ sudo scp -r /opt/cloudera-manager-5.1.0/  [email protected]:/opt/
Starting cloudera-scm-agent:                               [FAILED]

排错中..... 看日志,发现少个什么libpython的东西

/opt/cloudera-manager-5.1.0/lib64/cmf/agent/build/env/bin/python: error 
while loading shared libraries: libpython2.4.so.1.0: cannot open shared 
object file: No such file or directory

翻墙,万能的google,发现有人也在抱怨,因为RHEL6默认指向是python2.6,RHEL5是python2.4况,https://groups.google.com/a/cloudera.org/forum/#!msg/scm-users/Nz8O8eRn1RA/Jk0PUOAhQUkJ

Hi Simon,
On Wed, Dec 21, 2011 at 6:44 AM, Simon <[email protected]> wrote:
    Hello,
    during the installation on all hosts process I get a few installation
    errors:
    1. the master (runs the manager) installs all hadoop packages, but
    when it comes to Installing Clouder Manager agent package... it says
    that it requires libpython2.4.so.1.0()(64bit), of course python2.4 is
    not installed but 2.6 is, is there any workaround?
    This also occurs if I try to install the agent manually via yum
What OS are you running?  Is this an Amazon AMI?
Usually, when folks report this error, they‘re using RHEL/CentOS 6 (which has python 2.6) but their yum repos are pointed to our RHEL/CentOS 5 repos (5 has python 2.4).

突然恍然大悟,我的问题应该也是版本的问题,翻到前面的步骤,果然,一个眼花我下载的是el5版本的cdh5.1

下载离线的cloudera manager安装包, 放置于/opt目录,并解压,改名


1

2


[[email protected] opt]$ sudo tar -xzvf cloudera-manager-el5-cm5.1.0_x86_64.tar.gz

[[email protected] opt]$ sudo mv cm-5.1.0 cloudera-manager-5.1.0

发现了原因就好办了。删掉

[[email protected] opt]$ sudo rm -rf /opt/cloudera
[[email protected] opt]$ sudo rm -rf /opt/cloudera-manager-5.1.0/
[[email protected] opt]$ sudo rm -rf /opt/cloudera-manager-el5-cm5.1.0_x86_64.tar.gz
[[email protected] opt]$ ls

再来一遍,这次一定要小心看清el6,下到master.hadoop的/opt/里

wget 
http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-el6-cm5.1.1_x86_64.tar.gz
[[email protected] opt]$ sudo tar -xzvf cloudera-manager-el6-cm5.1.0_x86_64.tar.gz

装完查看

[[email protected] opt]$ ls
cloudera  cloudera-manager-el6-cm5.1.1_x86_64.tar.gz  cm-5.1.1

删除我们之间建的用的cloudera-scm

#确认/etc/passwd里如下内容,删除后消失
cloudera-scm:x:497:497:Cloudera SCM User:/opt/cloudera-manager-5.1.0/run/cloudera-scm-server:/bin/false

[[email protected] opt]$ sudo userdel cloudera-scm
#重新创建cloudera-scm用户
sudo useradd --system --home=/opt/cm-5.1.1/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

改改配置,解压的mysql-connector拷贝进去

[[email protected] cm-5.1.1]$ sudo vim etc/cloudera-scm-agent/config.ini 
[General]
# Hostname of the CM server.
server_host=master.hadoop

# Port that the CM server is listening on.
server_port=7182

[[email protected] cm-5.1.1]$sudo cp /home/hadoop/mysql-connector-java-5.1.32/mysql-connector-java-5.1.32-bin.jar /opt/cm-5.1.1/share/cmf/lib/mysql-connector-java-5.1.32-bin.jar

前面SCM那一步,因为我们第一次创建过数据库,不用再删除数据库

[[email protected] cm-5.1.1]$ sudo ./etc/init.d/cloudera-scm-server start
Starting cloudera-scm-server:                              [  OK  ]

删掉过去的开机启动项目,把新的加进去(没有对比过,估计el6和el5不一样吧)

[[email protected] cm-5.1.1]$ sudo rm /etc/init.d/cloudera-scm-server
[[email protected] init.d]$ sudo cp cloudera-scm-server /etc/init.d/cloudera-scm-server
[[email protected] init.d]$ sudo chkconfig cloudera-scm-server on
[[email protected] /]$ sudo /opt/cm-5.1.1/etc/init.d/cloudera-scm-agent start
Starting cloudera-scm-agent:                               [  OK  ]
[[email protected] /]$ sudo chkconfig /etc/init.d/cloudera-scm-agent on
error reading information on service /etc/init.d/cloudera-scm-agent: No such file or directory
[[email protected] /]$ sudo chkconfig cloudera-scm-agent on

陆续把所有slave的服务都打开

时间: 2024-10-10 06:09:36

Hadoop 离线安装 CDH5.1 第二章:cloudera manager与agent 安装的相关文章

第二章:MySQL介绍与安装

第二章:MySQL介绍与安装 为什么选择MySQL mysql性能卓越,服务稳定,很少出现异常宕机 mysql开源免费,无版权制约,自主性及使用成本低 产品耦合度,mysql支持多种操作系统,支持多开发语言,特别是php 技术积累,庞大的活跃的社区, 软件体积小,安装简单,易于维护 MySQL数据库分类与版本升级 MySQL官网http://www.mysql.com/,MySQL版本采用双授权政策,和大多数开源产品路线一样,分为社区版和商业版,并且这两个版本又分别分成四个版本依次发布,Alph

Cloudera manager的服务安装以及spark升级到2.2

一.Cloudera manager的服务安装 包含2个: 1. 是软件包的分发.安装 此种方式安装的时候.Cloudera manager会在激活这个步骤验证软件的版本和当前cdh的兼容性.如果不符合会提示,并且不能激活. (1).包的在线安装 上一步中配置会打开这个界面进行:下载地址的配置. 点击分配步骤之后,.parcel的软件包在每台机器上就已经复制了,并且是解压好的安装包. (2).通过自己下载.parcel,上传到软件包目录 此种方式安装的时候.Cloudera manager在激活

hadoop的安装和配置——第二章:伪分布模式

这篇为大家带来hadoop的伪分布模式: 从最简单的方面来说,伪分布模式就是在本地模式上修改配置文件: core-site.xml;hdfs-site.xml;mapred-site.xml;yarn-site.xml4 备注:本地模式见hadoop的安装与配置--第一章:本地模式 思路: |----------| | ①:ssh免密登陆   | | ②:修改配置文件   | | ③:格式化hadoop  | | ④:启动hadoop     | |----------| 一:ssh的免密登陆

如何利用Cloudera Manager来手动安装parcel包

1.问题的描述: 当你利用Cloudera Manager部署了CDH的集群后,也许随着你的业务需求,你需要对你的就去哪做一些优化,或者扩展之类的,这个时候你可能需要下载安装一些组件.例如,我最近在阅读Cloudera 官方文档的是,看到有一节的内容说到Performance Management的时候,发现为了提升集群的性能,经常会将数据进行压缩,此时就会需要添加一些parcel的安装. 2.方法详述: 为了能够安装自己想要的parcel的软件包,采用的方式可以: (1)在ClouderaMa

《Hadoop权威指南》笔记 第二章 Hadoop Streaming

什么是Hadoop Streaming ? ? Hadoop提供的一个编程工具,允许用户使用任何可执行文件或脚本作为mapper和Reducer ? ? 一个例子(shell简洁版本) ? ? $HADOOP_HOME/bin/hadoop jar $HADOOP_HOME/contrib/streaming/hadoop-*-streaming.jar -input myInputDirs -output myOutputDir -mapper cat -reducer wc ? ? 解析:

[Maven实战-许晓斌]-[第二章]-2.6 NetBeans上面安装Maven插件

NetBeans上面安装Maven插件 原文地址:https://www.cnblogs.com/whoknows1/p/9806232.html

离线部署 Cloudera Manager 5 和 CDH 5.12.1 及使用 CDH 部署 Hadoop 集群服务

Cloudera Manager Cloudera Manager 分为两个部分:CDH和CM. CDH是Cloudera Distribution Hadoop的简称,顾名思义,就是cloudera公司发布的Hadoop版本,封装了Apache Hadoop,提供Hadoop所有的服务,包括HDFS,YARN,MapReduce以及各种相关的components:HBase, Hive, ZooKeeper,Kafka等. CM是cloudera manager的简称,是CDH的管理平台,主要

Cloudera Manager和CDH5.8离线安装

https://blog.csdn.net/zzq900503/article/details/52982828 简介 我们在上篇文章中已经了解了CDH,为了后续的学习,我们本章就来安装CDH5.8.CDH5.8是目前比较新的版本,自带hadoop2.0以上的hadoop,而且已经包含了很多组件,也是我们接下来需要学习的hadoop生态圈中的组件. 环境 Cloudera Manager是为了简化hadoop及其组件的部署,但是由于包含的组件较多,对内存要求也比较大.所以我们尽量要保持主节点ma

离线安装Cloudera Manager 5和CDH5(最新版5.1.3) 完全教程

原文  http://www.cnblogs.com/jasondan/p/4011153.html 关于CDH和Cloudera Manager CDH (Cloudera's Distribution, including Apache Hadoop),是Hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的Apache Hadoop构建,并集成了很多补丁,可直接用于生产环境. Cloudera Manager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监控