ubuntu18.04下Kafka安装与部署

Apache Kafka是分布式发布-订阅消息系统,Apache Kafka与传统消息系统相比,有以下不同:

它被设计为一个分布式系统,易于向外扩展;
它同时为发布和订阅提供高吞吐量;
它支持多订阅者,当失败时能自动平衡消费者;
它将消息持久化到磁盘,因此可用于批量消费;
本篇文章是基于Ubuntu18.04来安装Kafka。

一、安装Java
更新软件包

sudo apt-get update
安装openjdk-8-jdk

sudo apt-get install openjdk-8-jdk
查看java版本,看看是否安装成功

[email protected]:~$ java -version
java version "1.8.0_171"
Java(TM) SE Runtime Environment (build 1.8.0_171-b11)
Java HotSpot(TM) 64-Bit Server VM (build 25.171-b11, mixed mode)
二、安装Zookeeper
请看我这篇文章:ZooKeeper的安装与部署

三、安装Kafka
下载地址:https://kafka.apache.org/downloads,ubuntu下可以用wget直接下载,我是下载到了/home/wzj/kafka目录

wget http://mirrors.shuosc.org/apache/kafka/1.0.0/kafka_2.11-1.0.0.tgz
解压

tar -zxvf kafka_2.11-1.0.0.tgz
创建日志存储目录

[email protected]:~$ cd kafka/
[email protected]:~/kafka$ mkdir logs-1
进入kafka解压目录,修改kafka-server 的配置文件

vim config/server.properties
修改配置文件中21、31、36和60行

broker.id=1
listeners=PLAINTEXT://:9092
advertised.listeners=PLAINTEXT://host_ip:9092
log.dirs=/home/wzj/kafka/logs-1
四、功能验证
1、启动Zookeeper,Zookeeper部署的是单点的。

bin/zookeeper-server-start.sh -daemon config/zookeeper.properties
查看是否启动成功

2、启动Kafka服务,使用 kafka-server-start.sh 启动 kafka 服务
bin/kafka-server-start.sh config/server.properties
3、创建topic

使用 kafka-topics.sh 创建单分区单副本的 topic test

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
查看 topic 列表

bin/kafka-topics.sh --list --zookeeper localhost:2181
4、产生消息,创建消息生产者

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
5、消费消息,创建消息消费者

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
在生产消息的窗口,输入内容,在消费窗口就可以打印出来

6、查看Topic消息

bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic test
[email protected]:~/kafka/kafka_2.11-1.0.0$ bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic test
Topic:test PartitionCount:1 ReplicationFactor:1 Configs:
Topic: test Partition: 0 Leader: 1 Replicas: 1 Isr: 1
第一行给出了所有分区的摘要,每个附加行给出了关于一个分区的信息。 由于我们只有一个分区,所以只有一行。
    “Leader”: 是负责给定分区的所有读取和写入的节点。 每个节点将成为分区随机选择部分的领导者。
    “Replicas”: 是复制此分区日志的节点列表,无论它们是否是领导者,或者即使他们当前处于活动状态。
    “Isr”: 是一组“同步”副本。这是复制品列表的子集,当前活着并被引导到领导者。
---------------------
作者:dmfrm
来源:CSDN
原文:https://blog.csdn.net/u010889616/article/details/80641922
版权声明:本文为博主原创文章,转载请附上博文链接!

原文地址:https://www.cnblogs.com/wmqBlog/p/10770227.html

时间: 2024-10-11 14:40:08

ubuntu18.04下Kafka安装与部署的相关文章

Ubuntu18.04下 QQ、微信安装。deepinQQ、deepin微信、deepin百度网盘

Ubuntu18.04下 QQ.微信安装.deepinQQ.deepin微信.deepin百度网盘 一.首先在ubuntu18.04中安装deepin-wine环境 在githuub上有人已经将deepin-wine环境打包好了,不需要我们一一安装依赖项 可以去https://gitee.com/wszqkzqk/deepin-wine-for-ubuntu 也可以使用下面代码进行下载 git clone https://gitee.com/wszqkzqk/deepin-wine-for-ub

Ubuntu18.04下搭建LAMP环境

1.Apache2 web 服务器的安装 : 可以先更新一下服务器 1.sudo apt-get update # 获取最新资源包 2.sudo apt-get upgrade # 本机软件全部更新 3.sudo apt-get dist-upgrade # 本机系统软件更新 安装Apache 1.sudo apt install apache2 -y 检查是否开启Apache,一般安装完会默认开启. 1.systemctl status apache2 开启.关闭和重启服务器 1./etc/i

Ubuntu18.04下添加Pycharm-community-2019.2.3快捷方式

以前有碰过此问题,未做记录,致使今天为此多花不少时间,引以为鉴.网上此问题的解决方式很多步骤过多,目前碰到如下链接的方式最为简洁: 参考链接:Ubuntu18.04下给PyCharm创建快捷方式 步骤1:在Terminal命令行输入如下命令,新建Pycharm桌面属性文件: sudo gedit /usr/share/applications/Pycharm.desktop 步骤2:copy如下代码到新建立的的Pycharm.desktop文件中,注意将pycharm.sh和pycharm.pn

ubuntu14.04下手动安装eclipse

ubuntu14.04下手动安装eclipse 第一步: 安装jdk 第二步: 下载eclipse,假设下载的文件文件名为eclipse.tar.gz 第三步: 解压 sudo -zxvf ./eclipse.tar.gz 会的到文件夹eclipse 第四步: 移动文件 sudo mv ./eclipse /usr/lib 第五步: 创建启动快捷方式 $ sudo gedit /usr/share/applications/eclipse.desktop 添加如下内容: [Desktop Ent

ubuntu14.04 下手动安装java jdk

ubuntu14.04 下手动安装java jdk 第一步: 下载jdk.tar.gz (这里假设下载的文件名为jdk.tar.gz) 第二步: 解压 sudo tar -zxvf ./jdk.tar.gz 这里会在当前目录下会的到一个新的被解压出来的文件夹(jdk-8×××),这里假设为该文件夹名为jdk 第三步: 移动解压出的文件夹 sudo mkdir /usr/lib/jvm 新建文件夹jvm sudo mv ./jdk /usr/lib/jvm/java 第四步: 修改环境变量 sud

Ubuntu 14.04 下手动安装Firefox的Flash插件

有时候我们需要在Ubuntu下采用手动安装一些软件,比如Firefox的Flash插件.Adobe® Flash® Player 是一款轻量级浏览器插件,具有丰富的 Internet 应用运行时间,提供持续的迷人用户体验.绝妙的音频/视频回放效果和刺激的游戏. Flash Player 已在超过 13 亿系统中安装,是提供高度集成且丰富的 Web 内容的标准应用. 相关阅读: Ubuntu 14.04 下载.安装.配置 整理汇总 页面 http://www.linuxidc.com/Linux/

Ubuntu 14.04下NFS安装配置

Ubuntu 14.04下NFS安装配置 参考:http://www.linuxidc.com/Linux/2013-08/89154.htm 1.执行命令:sudo apt-get install nfs-kernel-server ; 2.执行命令:mkdir /home/jacobxu/nfs-jacoxu 建立一个nfs服务的专有的文件夹; 3.建立好文件夹后,接着执行命令:sudo vi /etc/exports 配置nfs; 4.在文章的最后一行添加:/home/jacobxu/nf

eclipse在Ubuntu 13.04下的安装过程及问题小记

在Ubuntu 13.04下的安装eclipse - 夏雪冬日 - 博客园 一.eclipse安装过程 首先确保在安装eclipse之前已经安装好Java虚拟机 1. eclipse官网下载压缩包 ?下载地址:http://www.eclipse.org/downloads/?osType=linux&release=undefined ? 2. 解压缩到 /opt/(/opt一般为大型商业软件或第三方软件包安装的地方,我习惯将第三方软件安装在此,当然你也可以安装在/usr/local下或其他地

Ubuntu 12.04下LAMP安装配置

我是一个Linux新手,想要安装一台Ubuntu 12.04版的Linux服务器,用这台服务器上的LAMP套件来运行我自己的个人网站.LAMP套件就是“Linux+Apache+Mysql+PHP这四款软件组成了一个可以使网站运行的套装工具软件.”通过安装尝试,我获得了一些成功的安装配置经验,通过本文提供给Linux网站服务器系统的入门者学习.本次安装的网站软件环境中将使用Apache2网页服务软件.MySQL5网站后台数据库软件.以及PHP5角本解释语言软件,配置成的系统也可提供FTP服务.