Kafka三款监控工具比较(转)

在之前的博客中,介绍了Kafka Web Console这 个监控工具,在生产环境中使用,运行一段时间后,发现该工具会和Kafka生产者、消费者、ZooKeeper建立大量连接,从而导致网络阻塞。并且这个 Bug也在其他使用者中出现过,看来使用开源工具要慎重!该Bug暂未得到修复,不得已,只能研究下其他同类的Kafka监控软件。

通过研究,发现主流的三种kafka监控程序分别为:

  • Kafka Web Conslole
  • Kafka Manager
  • KafkaOffsetMonitor

现在依次介绍以上三种工具:

Kafka Web Conslole

使用Kafka Web Console,可以监控:

  • Brokers列表
  • Kafka 集群中 Topic列表,及对应的Partition、LogSiz e等信息
  • 点击Topic,可以浏览对应的Consumer Groups、Offset、Lag等信息
  • 生产和消费流量图、消息预览…

程序运行后,会定时去读取kafka集群分区的日志长度,读取完毕后,连接没有正常释放,一段时间后产生大量的socket连接,导致网络堵塞。

Kafka Manager

雅虎开源的Kafka集群管理工具:

  • 管理几个不同的集群
  • 监控集群的状态(topics, brokers, 副本分布, 分区分布)
  • 产生分区分配(Generate partition assignments)基于集群的当前状态
  • 重新分配分区

KafkaOffsetMonitor

  • KafkaOffsetMonitor可以实时监控:
  • Kafka集群状态
  • Topic、Consumer Group列表
  • 图形化展示topic和consumer之间的关系
  • 图形化展示consumer的Offset、Lag等信息


总结

通过使用,个人总结以上三种监控程序的优缺点:

Kafka Web Console:监控功能较为全面,可以预览消息,监控Offset、Lag等信息,但存在bug,不建议在生产环境中使用。

Kafka Manager:偏向Kafka集群管理,若操作不当,容易导致集群出现故障。对Kafka实时生产和消费消息是通过JMX实现的。没有记录Offset、Lag等信息。

KafkaOffsetMonitor:程序一个jar包的形式运行,部署较为方便。只有监控功能,使用起来也较为安全。

若只需要监控功能,推荐使用KafkaOffsetMonito,若偏重Kafka集群管理,推荐使用Kafka Manager。

因为都是开源程序,稳定性欠缺。故需先了解清楚目前已存在哪些Bug,多测试一下,避免出现类似于Kafka Web Console的问题。

原创文章,转载请注明:
转载自蓝色天堂博客,本文链接地址:http://hadoop1989.com/2015/09/22/Kafka-Monitor_Compare/

原文地址:https://www.cnblogs.com/Huang-Niu/p/9987421.html

时间: 2024-08-29 17:57:59

Kafka三款监控工具比较(转)的相关文章

介绍三款串口监控工具:Device Monitoring Studio,portmon,Comspy

在开发上位机下位机通讯程序时,有一个好的监控工具会事半功倍.特在网上找了几款串口监控软件,作了简单对比: 一.Device Monitoring Studio 网址:http://www.hhdsoftware.com 程序截屏: 软件功能比较强大,是收费软件,免费试用15天.从截图可以看出,选择了通信端口以后,可以很轻松监控串口数据.另外从界面上看它还有数据统计等很多其它功能,我没有全部试用,就不多介绍了.需要注意一点,它的启动按钮在界面右侧下方. 二.微软portmon 微软工具包Sysin

推荐三款自己使用过的鼠标手势插件

随着现在的浏览器变得越来越简洁,越来越快捷,浏览器上面的按钮也会变得越来越少,但是浏览器的功能确实越来越强大了,我们需要一种新的方式来提供浏览器操作体验那就是鼠标手势操作.在Chrome浏览器中安装了鼠标手势插件以后可以设置多种手势来快速对Chrome进行操作.今天小编就为大家整理了现在比较流行的4款chrome浏览器鼠标手势插件,希望有大家心水的那一款. NO1:Gestures for Google Chrome推荐指数:★★★★★功能概述:Gestures for Google Chrom

关于Linode、Digitalocean、Vultr三款美国VPS服务商的用户体验

曾几何时,虽然我们在海外VPS服务商中也可以看到各种大大小小的商家,但是真正能让Linode这样高富帅有竞争力的还真不多,这不当初在Linode商家512MB内存方案卖20美元一个月的时候,还是有很多人争先恐后的购买.但是自从有Digitalocean.Vultr商家的出现,我们看到Linode连续3年的改变方案.升级配置,甚至降价,无论是巧合还是战略改变,我个人认为这三家之间竞争是导致整个VPS行业降价,以及良心竞争的很大的关系. 在这篇文章中,笔者将来分享且谈谈个人看法,关于这三款目前算是主

Facebook 开源三款图像识别人工智能软件

Facebook今天开源了三款人工智能图像分割(Image Segmentation)软件,分别是DeepMask.SharpMask和MultiPathNet,三款工具相互配合完成一个完整的图像识别分割处理流程,DeepMask生成初始对象mask.SharpMask优化这些mask,最后由MultiPathNet来识别这些mask框定的物体.SharpMask目前已遵循BSD授权协议在GitHub上公开源码. Facebook的人工智能研究实验室(FAIR)此前曾在多篇学术论文中讨论过以上开

.Net 三款工作流引擎比较:WWF、netBPM 和 ccflow

原文:.Net 三款工作流引擎比较:WWF.netBPM 和 ccflow 下面将对目前比较主流的三款工作流进行介绍和比较,然后通过三款流程引擎分别设计一个较典型的流程来给大家分别演示这三款创建流程的过程.这三款工作流程引擎分别是 Windows Workflow Foundation,NetBPM, CCFlow. NetBPM 与 CCFlow 是两款国内知名的开源软件,尤其是ccflow在国内的发展势头强劲. 这个典型的流程假设:公司有两级领导,一级为主管Chief,一级为老板Boss 场

三款开源科学计算软件平台

Mathics(http://www.mathics.org/) 基于Python开发,是Mathematica的替代品 FEnics(http://fenicsproject.org/documentation/) Englab(http://englab.bugfest.net/) 有待成熟 三款开源科学计算软件平台,布布扣,bubuko.com

两款JSON类库Jackson与JSON-lib的性能对比(新增第三款测试)

本篇文章主要介绍了"两款JSON类库Jackson与JSON-lib的性能对比(新增第三款测试)",主要涉及到两款JSON类库Jackson与JSON-lib的性能对比(新增第三款测试)方面的内容,对于两款JSON类库Jackson与JSON-lib的性能对比(新增第三款测试)感兴趣的同学可以参考一下. 近日做一些性能优化工作,在挑选JSON类库时,发现除了一般常用的JSON-lib外,还有一款号称性能最快的JSON处理器Jackson,于是用上了刚学会的JMeter,对这两个类库进行

三款新品亮相家博会,卡萨帝新理念获业界认同

3月11日,一年一度的家博会在上海开幕,今年的家博会吸引了国内家电企业的热情參与,而一些新品的亮相也让大家对家电行业的发展充满信心.值得一提的是.国内高端家电领军人物卡萨帝借助本次家博会公布了三款颠覆性新品,其创新理念不仅获得了业界的广泛认同,也预示着高端家电元年的开启. 本次家博会卡萨帝一共公布了三款颠覆性新品.各自是卡萨帝云珍冰箱.卡萨帝双子云裳洗衣机.卡萨帝云典厨电.接下来,我们最好还是看看这三款新品到底有何过人之处. 技术创新引领行业潮流 卡萨帝云珍冰箱主打"完美珍藏.爱由鲜生"

三款软件印象总结

我说的三款软件,第一个是最近很火的一个社交类的APP探探,第二个是如今普遍接受系统防护类软件360,第三个是办公类型软件office. 一,探探 这款软件是又一次再看电视剧老九门中插播的广告中得知的,说是最受女性欢迎的APP,广告上说喜欢的人就右划,不喜欢就左划,如果两个人相互喜欢就配对,初于好奇心我就下载了一个. 盈利模式上,目前来看软件上面操作简单,无广告,估计正处于前期的吸引用户阶段.关于社交类软件的盈利模式,去查了一下,无非就这几种: 1,广告模式 大多为硬广,原生广告,营销活动,由于移