Kafka集群安装和配置(二)

(一)、环境介绍
1、服务器的相关设置:
1、kafka1:172.20.67.52
2、kafka2:172.20.67.56
3、kafka3:172.20.67.57

2、zookeeper所需的三个端口
1、2181
2、2888
3、3888
三个端口的作用:
2181:对客户端提供服务
2888:集群内机器通讯使用(Leader监听此端口)
3888:选举leader使用

3、kafka 所需的端口
9092:kafka所需的端口

(二)、kafka集群的安装配置

(1)、kafka1172.20.67.52的安装及相关配置
1、去官网下载相应的版本(https://kafka.apache.org/downloads )。我已下载好直接使用kafka_2.11-0.11.0.3版本
2、解压并放到相应的目录
[[email protected] opt]# tar xf kafka_2.11-0.11.0.3.tgz
[[email protected] opt]# mv kafka_2.11-0.11.0.3 /usr/local/kafka

3、zookeeper的相关配置
[[email protected] kafka]# vim /usr/local/kafka/config/zookeeper.properties
dataDir=/data/zookeeper
clientPort=2181
maxClientCnxns=0
tickTime=2000
        initLimit=20
syncLimit=10
server.1=172.20.67.52:2888:3888
server.2=172.20.67.56:2888:3888
server.3=172.20.67.57:2888:3888

4、kafka的相关配置

[[email protected] kafka]# vim /usr/local/kafka/config/server.properties
broker.id=1
host.name=172.20.67.52
listeners=PLAINTEXT://172.20.67.52:9092
log.dirs=/data/kafka-logs
log.retention.check.interval.ms=300000
log.retention.hours=1
log.segment.bytes=1073741824
num.io.threads=4
default.replication.factor=2
num.network.threads=3
num.partitions=30
num.recovery.threads.per.data.dir=1
port=9092
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
socket.send.buffer.bytes=102400
zookeeper.connect=172.20.67.52:2181,172.20.67.56:2181,172.20.67.57:2181
zookeeper.connection.timeout.ms=10000
fetch.message.max.bytes=52428700
replica.fetch.max.bytes=52428700

5、启动时加入到/etc/rc.local

[[email protected] config]# vim /etc/rc.local
cd /var/tmp;nohup /usr/local/kafka/bin/zookeeper-server-start.sh /usr/local/kafka/config/zookeeper.properties &
cd /tmp;nohup /usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties &
touch /var/lock/subsys/local

6、依次创建zookeeper的数据目录/data/zookeeper和文件/data/zookeeper/myid,此时我们需要对应的Zookeeper服务器上在dataDir的目录下面新建myid文件,同时把对应的1、2、3写进去。
[[email protected] config]# mkdir -p /data/zookeeper
[[email protected] config]# vim /data/zookeeper/myid
1

7、依次启动集群的kafka1、kafka2、kafka3 的zookeeper
[[email protected] config]# /usr/local/kafka/bin/zookeeper-server-start.sh /usr/local/kafka/config/zookeeper.properties &

8、然后在依次启动集群的kafka1、kafka2、kafka3 的kafka服务
[[email protected] config]# cd /tmp;nohup /usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties &

9、最后依次按照2、3、4、5、6、7、8的步骤依次在kafka2(172.20.67.56)和kafka3(172.20.67.57)依次安装配置zookeeper和kafka的配置文件和启动。

10、查看集群所启动的端口

kafka1
[[email protected] ~]# netstat -lntp|grep java
tcp6       0      0 172.20.67.52:3888       :::*                    LISTEN      20184/java
tcp6       0      0 127.0.0.1:9600          :::*                    LISTEN      20143/java
tcp6       0      0 172.20.67.52:9092       :::*                    LISTEN      20649/java
tcp6       0      0 :::35300                :::*                    LISTEN      20649/java
tcp6       0      0 :::2181                 :::*                    LISTEN      20184/java
tcp6       0      0 :::46471                :::*                    LISTEN      20184/java 

kafka2
[[email protected] ~]# netstat -lntp|grep java
tcp6       0      0 172.20.67.56:3888       :::*                    LISTEN      30298/java
tcp6       0      0 :::33395                :::*                    LISTEN      30298/java
tcp6       0      0 :::43031                :::*                    LISTEN      30573/java
tcp6       0      0 172.20.67.56:9092       :::*                    LISTEN      30573/java
tcp6       0      0 :::2181                 :::*                    LISTEN      30298/java  

kafka3
[[email protected] ~]# netstat -lntp|grep java
tcp6       0      0 172.20.67.57:3888       :::*                    LISTEN      26313/java
tcp6       0      0 :::44194                :::*                    LISTEN      26313/java
tcp6       0      0 172.20.67.57:9092       :::*                    LISTEN      26883/java
tcp6       0      0 :::2181                 :::*                    LISTEN      26313/java
tcp6       0      0 172.20.67.57:2888       :::*                    LISTEN      26313/java
tcp6       0      0 :::36041                :::*                    LISTEN      26883/java  

原文地址:http://blog.51cto.com/liqingbiao/2315959

时间: 2024-08-05 21:43:36

Kafka集群安装和配置(二)的相关文章

KafKa集群安装、配置

一.事前准备 1.kafka官网:http://kafka.apache.org/downloads. 2.选择使用版本下载. 3.kafka集群环境准备:(linux) 192.168.145.129   主机名:kafka01 192.168.145.130              kafka02 192.168.145.131              kafka03 4.本次安装版本:kafka_2.10-0.8.2.0 5.注意事项 ①:kafka依赖zookeeper集群. ②:集

kafka集群安装与配置

一.集群安装 1. Kafka下载: 可以从kafka官方网站(http://kafka.apache.org)上找到下载地址,再wgetwget http://mirrors.cnnic.cn/apache/kafka/0.8.2.2/kafka_2.10-0.8.2.2.tgz 解压该文件: tar zxvf kafka_2.10-0.8.2.2.tgz 注意kafka依赖于zookeeper和scala,以上tgz文件名中的2.10即为scala的版本号 zk和scala的安装在此不再赘述

zookeeper+kafka集群安装之二

zookeeper+kafka集群安装之二 此为上一篇文章的续篇, kafka安装需要依赖zookeeper, 本文与上一篇文章都是真正分布式安装配置, 可以直接用于生产环境. zookeeper安装参考: http://blog.csdn.net/ubuntu64fan/article/details/26678877 首先了解几个kafka中的概念: kafka是一个消息队列服务器,服务称为broker, 消息发送者称为producer, 消息接收者称为consumer; 通常我们部署多个b

MySQL集群安装与配置

MySQL集群安装与配置 文章目录 [隐藏] 一.mysql集群安装 二.节点配置 三.首次启动节点 四.测试服务是否正常 五.安全关闭和重启 MySQL Cluster 是 MySQL 适合于分布式计算环境的高实用.高冗余版本.它采用了NDB Cluster 存储引擎,允许在1个 Cluster 中运行多个MySQL服务器.MySQL Cluster 能够使用多种故障切换和负载平衡选项配置NDB存储引擎,但在 Cluster 级别上的存储引擎上做这个最简单.下面我们简单介绍MySQL Clus

Kafka集群安装与扩容

介绍略 集群安装: 一.准备工作: 1.版本介绍: 目前我们使用版本为kafka_2.9.2-0.8.1(scala-2.9.2为kafka官方推荐版本,此外还有2.8.2和2.10.2可以选择) 2.环境准备: 安装JDK6,目前使用版本为1.6,并配置JAVA_HOME 3.配置修改: 1)拷贝线上配置到本地kafka目录. 2)需要注意的是server.properties里broker和ip的指定,必须要唯一. 3)server.properties中log.dirs必须要手动指定.此配

zookeeper+kafka集群安装之一

zookeeper+kafka集群安装之一 准备3台虚拟机, 系统是RHEL64服务版. 1) 每台机器配置如下: $ cat /etc/hosts ... # zookeeper hostnames: 192.168.8.182 zk1 192.168.8.183 zk2 192.168.8.184 zk3 2) 每台机器上安装jdk, zookeeper, kafka, 配置如下: $ vi /etc/profile ... # jdk, zookeeper, kafka export KA

Centos7.4 kafka集群安装与kafka-eagle1.3.9的安装

Centos7.4 kafka集群安装与kafka-eagle1.3.9的安装 集群规划: hostname Zookeeper Kafka kafka-eagle kafka01 √ √ √ kafka02 √ √ kafka03 √ √ 准备工作: 网络配置 vim /etc/sysconfig/network-scripts/ifcfg-ens33 # kafka01 TYPE=Ethernet PROXY_METHOD=none BROWSER_ONLY=no BOOTPROTO=sta

RHCS集群安装与配置

集群或者多个集群指的是运行红帽高可用性附加组件的一组计算机. 实验环境:rhel6.5 iptables&selinux disabled 实验主机:192.168.2.251(luci节点) 192.168.2.137 192.168.2.138(ricci节点) 三台主机都必须配置高可用yum源: [base]name=Instructor Server Repositorybaseurl=http://192.168.2.251/pub/rhel6.5gpgcheck=1gpgkey=fi

MySQL的Master/Slave集群安装和配置

本文讲述MySQL的Master/Slave集群安装和配置,安装的版本是最新的稳定版本GA 5.6.19. 为了支持有限的HA,我们使用Master/Slave简单的读写分离集群.有限的HA是指当Master不可用时,数据不会丢失,但在Master宕机的情况下是不可写的,必须手工处理故障.如果要支持更高的可用性,可以使用两台Master来做热切换. Master和Slave的MySQL安装是相同的,只是my.cnf的配置不同,需要配置二进制日志文件复制. 没有特殊说明,命名中带#的为root用户