0110-如何给Kerberos环境下的CDH集群添加Gateway节点

Fayson的github: https://github.com/fayson/cdhproject

推荐关注微信公众号:“Hadoop实操”,ID:gh_c4c535955d0f,或者扫描文末二维码。

1.文档编写目的

Gateway节点又称为客户端节点,通常用作访问Hadoop集群的接口机。它主要会部署一些客户端的配置,脚本命令,比如HDFS的core-site.xml,hdfs-site.xml以及hadoop的操作命令。

如果你使用的是Apache Hadoop,你只需要将hadoop相关服务的配置和脚本命令拷贝到客户端机器即可,但一旦集群的配置有所修改,你需要注意也同步到客户端机器。如果是CDH集群,客户端节点也会是Cloudera Manager管理的一台机器,它会被安装cloudera-scm-agent服务,以及CDH的Parcel,部署客户端配置Cloudera Manager会统一做,另外如果客户端机器出现异常,Cloudera Manager也会告警。

增加一台Gateway节点,与安装CDH非常类似,你必须要注意一定要做好客户端机器的前置条件准备,参考《CDH安装前置准备》,否则会增加失败。前面Fayson介绍过在非Kerberos环境下部署Gateway节点,参考《如何给CDH集群增加Gateway节点》。本文则主要是介绍如何在Kerberos环境下给CDH集群增加Gateway节点。

内容概述
1.创建Gateway节点的主机模板
2.Gateway节点的前置准备
3.增加Gateway节点到集群并应用主机模板
4.GateWay节点命令测试

测试环境
1.CDH5.13
2.采用root用户操作
3.CentOS6.5

前置条件
1.CDH5.13集群运行正常
2.Gateway节点已准备,并准备好前置

2.创建Gateway节点的主机模板

1.从Cloudera Manager进入“主机模板”页面

2.点击“创建”

3.给模板命名,点击各个服务勾选相应的GateWay角色

4.点击“创建”,确认创建成功.

3.Gateway节点的前置准备

前置准备请参考Fayson之前的文章《CDH安装前置准备》,主要包括以下步骤:
1.确保OS的yum源可以正常使用,通过yum repolist命令可以查看到匹配的OS的所有包
2.确保Cloudera Manager的yum源运行正常
3.hosts文件配置,需要将Gateway节点的IP和hostname加入到CDH集群节点的hosts文件中,并同步到所有机器包括Gateway节点
4.禁用SELinux
5.关闭防火墙
6.设置swap为10
7.关闭透明大页面
8.配置时钟同步
<font color=red>请务必确保以上操作都已完成,并成功配置,否则接下来的增加节点操作会失败!</font>

4.安装Kerberos客户端

由于集群启用了Kerberos服务,所以需要在Gateway节点安装Kerberos客户端。
1.在Gateway节点上执行如下命令

[[email protected]]$ sudo yum -y install krb5-libskrb5-workstation

安装成功后查看安装的RPM包

[[email protected]]$ rpm -qa |grep krb
krb5-workstation-1.15.1-8.el7.x86_64
krb5-libs-1.15.1-8.el7.x86_64
krb5-devel-1.15.1-8.el7.x86_64
[[email protected] opt]$ 

2.将CM集群中的krb5.conf文件拷贝至该Gateway节点

[[email protected] ~]$ scp -i fayson.pem.txt /etc/krb5.conf ip-172-31-31-212:/home/ec2-user/

3.在Gateway节点将krb5.conf文件拷贝至/etc目录下

[[email protected] ~]$ sudo cp krb5.conf /etc/
[[email protected] ~]$ sudo chown root. /etc/krb5.conf
[[email protected] ~]$ ll /etc/krb5.conf
-rw-r--r-- 1 root root 837 Dec  9 00:28 /etc/krb5.conf
[[email protected] ~]$ 


4.在GateWay节点测试Kerberos客户端是否部署成功

[[email protected] ~]$ kinit -kt fayson.keytab fayson
[[email protected] ~]$ klist
Ticket cache: FILE:/tmp/krb5cc_1000
Default principal: [email protected]

Valid starting       Expires              Service principal
12/09/2017 00:31:53  12/10/2017 00:31:53  krbtgt/[email protected]
        renew until 12/16/2017 00:31:53
[[email protected] ~]$


有如上图所示则表示Kerberos客户端安装成功。

5.增加Gateway节点的集群并应用主机模板

1.进入“所有主机”页面

2.点击“向群集添加主机”

3.选择“经典向导”

4.继续

5.输入Gateway节点的IP或者hostname,点击搜索


6.点击“继续”,选择“自定义存储库”,并输入Cloudera Manager的yum源http地址

7.点击“继续”,勾选Java的两个选项

8.点击“继续”,输入Gateway节点的ec2-user密码

9.点击“继续”,等待cloudera-scm-agent在Gateway节点上安装

安装完成点击“继续”

10.点击“继续”,等待分发Parcel包并激活

完成后,点击“继续”

11.点击“继续”,进行主机检查

12.完成主机检查,点击“继续”,选择主机模板

13.点击“继续”,启动主机上的角色

等待执行成功

14.点击“继续”,部署客户端配置

15.点击完成,查看主机列表GateWay节点的角色信息

至此,给Kerberos环境下CDH集群增加新的Gateway节点完成。

6.Gateway节点测试

1.HDFS命令测试

[[email protected] ~]$ hadoop fs -ls /


2.HBase命令测试

[[email protected] ~]$ hbase shell


3.Hive命令测试

[[email protected] ~]$ hive


4.hadoop命令向集群提交作业

[[email protected] ~]$ hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 5 5

为天地立心,为生民立命,为往圣继绝学,为万世开太平。

推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操

<div align=center><img src="https://img-blog.csdnimg.cn/20181124184403645.png"/></div&gt;

原文地址:http://blog.51cto.com/14049791/2331153

时间: 2024-08-02 04:51:56

0110-如何给Kerberos环境下的CDH集群添加Gateway节点的相关文章

如何一步一步删除(linux &amp; UNIX)环境下 oracle 11g 集群节点

 Deleting a Cluster Node on Linux and UNIX Systems 1.确定要删除的节点,是否active,pinned $ olsnodes -s -t 如果 pinned ,则crsctl unpin css  -n <nodename>  unpinned 相应的节点 2.禁用相应集群节点的应用资源,进程 先停掉 em: emctl stop dbconsole 以root 用户运行 在要删除节点的 $Grid_home/crs/install 路径

在Windows中单机环境下创建RabbitMQ集群

本文根据:http://www.360doc.com/content/15/0312/17/20874412_454622619.shtml整理而来 RabbitMQ具有很好的消息传递性能,同时又是开源软件,使用范围较广. 因为自己使用的是Windows系统,因此简而言之入手点自然就是RabbitMQ提供的bat文件了.RabbitMQ提供了5个bat文件,分别是:rabbitmq-service.bat,rabbitmq-server.bat,rabbitmq-plugins.bat,rabb

Windows环境下搭建rabbitmq集群与负载

欢迎提出意见及建议,发现错误请留言 需要的文件下载: 百度云:链接:https://pan.baidu.com/s/1gpZa2NjNxviEnihjS2Viuw  提取码:39hi  复制这段内容后打开百度网盘手机App,操作更方便哦 蓝奏云:下载:https://www.lanzous.com/i54x5da 密码:cgb9 参考博文: https://blog.csdn.net/elie_yang/article/details/86657851 https://blog.csdn.net

ruby-2.4.6和redis-4.1.3.gem环境下的redis-cluster集群中的bug

bug场景说明:ruby-2.4.6和redis-4.1.3.gem环境下的redis-cluster集群中,在移除redis-cluster集群中含有数据的节点时出现的bug.下面详细说明下bug出现的场景. redis-cluster移除节点:和节点添加一样,移除节点也有移除主节点,从节点. 1.移除主节点 移除节点使用redis-trib的del-node命令, redis-trib del-node 127.0.0.1:7002 ${node-id} 127.0.0.1:7002是red

【Data Cluster】真机环境下MySQL数据库集群搭建

阅读目录 MySQL Cluster简介 mysql-cluster构造 虚拟机安装centos6.6 mysql-cluster下载 centos6.6搭建环境配置 mysql-cluster安装包导入cent中 集群配置 运行mysql-cluster 常见问题 测试 真机环境下MySQL-Cluster搭建文档  摘要:本年伊始阶段,由于实验室对不同数据库性能测试需求,才出现MySQL集群搭建.购置主机,交换机,双绞线等一系列准备工作就绪,也就开始集群搭建.起初笔者对此不甚了解,查阅很多资

CDH集群添加节点服务器步骤

1.解压安装包到/opt目录下 tar -zxvf cloudera--el6-cm5.7.1_x86_64.tar.gz -C /opt/ 2.修改agent下的config.ini文件,将server_host设置为server所在服务器主机名 vim /opt/cm-5.7.1/etc/cloudera-scm-agent/config.ini 3.创建cloudera-scm用户 useradd --system --home=/opt/cm-5.7.1/run/cloudera-scm

windows环境下搭建redis集群

Redis.Ruby语言运行环境.Redis的Ruby驱动redis-xxxx.gem.创建Redis集群的工具redis-trib.rb(注意:Redis集群需要至少3个以上节点,低于3个无法创建) 1.下载(zip格式)并安装Redis:(https://github.com/MSOpenTech/redis/releases/) 1)将下载到的Redis-x64-3.0.504.zip解压即可,为了方便使用,建议放在盘符根目录下,并修改目录名为Redis,如:D:\Redis 2)通过配置

3. linux centos6.8环境下部署zookeeper集群

安装3台机器来作为zookeeper集群,3台机器的ip分别是192.168.174.7,192.168.174.8,192.168.174.9.zookeeper由java编写,所以在安装zookeeper前先安装jdk环境. 3台机器上分别创建zookeeper的安装目录 mkdir -p /usr/local/software/zookeeper 官网下载tar包,3台机器上分别分别解压 tar -xvf zookeeper-3.4.11.tar.gz -C /usr/local/soft

生产环境下hadoop HA集群及Hbase HA集群配置

一.环境准备 操作系统版本:centos7 64位 hadoop版本:hadoop-2.7.3 hbase版本: hbase-1.2.4 1.机器及角色 IP 角色 192.168.11.131 Namenode DFSZKFailoverController ResourceManager Jobhistory HMaster QuorumPeerMain 192.168.11.132 Namenode DFSZKFailoverController HMaster QuorumPeerMai