windows下IntelliJ IDEA搭建kafka源码环境

于kafka核心原理的资料,网上有很多,但是如果不自己研究其源码,永远是知其然而不知所以然。下面就来演示如何在windows环境下来编译kafka源码,并通过IntelliJ IDEA开发工具搭建kafka的源码环境,以方便在本地通过debug调试来研究kafka的内部实现机制。

具体步骤:

(1)安装jdk,版本为1.8.0_131,配置JAVA_HOME:

(2)安装scala,版本为 2.10.6,配置SCALA_HOME:

(3)安装Gradle,版本为 3.1,配置GRADLE_HOME:

(4)安装Maven,版本为 3.2.1,配置MAVEN_HOME:

(5)安装zookeeper,版本为3.4.6

到zookeeper官网下载压缩包,解压到windows的任意磁盘目录下,将conf目录下的zoo_sample.cfg复制一份,将其名称修改为zoo.cfg,然后打开,指定dataDir=D:\\java\\zookeeper-data\\3.4.6-data,比如我的配置如下:

# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
dataDir=D:\\java\\zookeeper-data\\3.4.6-data
# the port at which the clients will connect
clientPort=2181
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1

然后双击bin目录下的zkServer.cmd即可启动zookeeper:

zookeeper启动后如下图,默认占用的端口号为2181:

(6)下载kafka源码。从kafka官网下载源码包kafka-0.10.0.1-src.tgz,解压,比如我解压到了D:\kafka-0.10.0.1-src目录下,在解压后的目录下面通过命令行窗口执行gradle idea命令,然后经过漫长的等待,控制台会出现构建成功的提示,说明kafka源码编译完成;

(7)开发工具使用的是IntellJ IDEA 14.1.7(也可以使用其他更高的版本):

(8)在IntelliJ IDEA中安装scala插件,这里我安装的插件版本为 1.5.4:

(9)将编译好的kafka源码导入到idea开发工具中,导入后的目录情况:

(10)将config目录下的log4j.properties文件拷贝到core\src\main\scala\目录下,方便查看日志:

(11) 修改server.properties文件中的log.dirs=D:\\tmp\\kafka-logs(修改为你自己windows磁盘目录)

(12)启动kafka服务器,即运行core\src\main\scala\kafka\Kafka.scala中的main方法,运行前指定启动参数:

(13)启动生产者,启动参数配置:

(14)启动消费者,启动参数配置:

(15)在生产者的控制台上输入消息"hello kafka"并回车:

观察消费者的控制台上,如果有消息被消费,说明源码环境搭建成功:

致此,kafka在IntelliJ IDEA中的源码环境搭建成功。

时间: 2024-10-25 13:13:55

windows下IntelliJ IDEA搭建kafka源码环境的相关文章

Linux Kafka源码环境搭建

本文主要讲述的是如何搭建Kafka的源码环境,主要针对的Linux操作系统下IntelliJ IDEA编译器,其余操作系统或者IDE可以类推. 1.安装和配置JDK确认JDK版本至少为1.7,最好是1.8及以上.使用java -version命令来查看当前JDK的版本,示例如下: [email protected]:~/workspace/software/hadoop-2.7.3/bin$ java -version java version "1.8.0_191" Java(TM)

搭建kafka源码开发环境时使用"gradle idea"命令构建源码失败

我的环境: JDK: 1.8.0_131 Gradle: Gradle 3.1 Kafka源码包: kafka-0.10.0.1-src.tgz Zookeeper安装包: zookeeper-3.4.6.tar.gz Scala版本: 2.10.6 提示在 D:\soft\kafka-0.10.0.1-src\build.gradle文件的230行有问题.解决办法: 打开build.gradle文件:在开头添加如下内容: ScalaCompileOptions.metaClass.daemon

kafka源码环境搭建

我搭建的是0.10.0.1版本 1.需要准备的又jdk1.8,scala2.1,gradle-3.1(这个下的好慢).zookeeper. 2.ide推荐idea,eclipse的scala插件好多坑. 3.scala和gradle配个home和path就行了,配完查下版本好成功就好了,scala安装失败可能是jdk版本不对.gradle是maven的进化版. 4.kafka和zookeeper上apache官网下. 都装好的了,进入源码目录,执行gradle idea, 我执行的时候出个错 S

Windows下利用Cygwin搭建C/C++开发环境GCC

1.下载cygwin 下载地址:http://www.cygwin.com/ 2.下载完成后点击运行 3.选择镜像时可以选择添加清华镜像,在"User URL"处输入以下地址: https://mirrors.tuna.tsinghua.edu.cn/cygwin/ 点击"Add"按钮, 然后选中"https://mirrors.tuna.tsinghua.edu.cn", 点击"下一步"进行安装. 4.在这个页面之后,就是最

Kafka源码环境搭建2

github地址:https://github.com/apache/kafka clone下来之后可以看到这样的项目结构: 文件目录说明. 目录 描述 bin Windows 和 Linux 下 Kafka 相关操作的脚本,包括启动和关闭 KafkaServer.创建 topic.分区管理.模拟生产者和消费者基本操作的脚本等 clients Kafka客户端,包括 Kafka Producer 和 KafkaConsumer,Java语言开发 config Kafka运行相关配置文件,如 se

windows下kafka源码阅读环境搭建

工具准备:jdk1.8,scala-2.11.11,gradle-3.1,zookeeper-3.4.5,kafka-0.10.0.1-src.tgz, kafka_2.11-0.10.0.1.tgz 安装jdk 安装scala 搭建zookeeper kafka源码构建 解压kafka-0.10.0.1-src.tgz,命令行进行kafka-0.10.0.1-src,执行gradle idea 注: 1)gradle idea,用国外的库构建的下载速度很慢,在进入项目里面,找到build.gr

Idea下Kafka源码阅读编译环境搭建

Kafka源码编译阅读环境搭建 开发环境: Oracle Java 1.7.0_25 + Idea + Scala 2.10.5 +Gradle 2.1 + Kafka 0.9.0.1 一.Gradle安装配置 Kafka代码自0.8.x之后就使用Gradle来进行编译和构建了,因此首先需要安装Gradle.Gradle集成并吸收了Maven主要优点的同时还克服了Maven自身的一些局限性--你可以访问https://www.gradle.org/downloads/ 下载最新的Gradle版本

apache kafka源码project环境搭建(IDEA)

1.gradle安装 gradle安装 2.下载apache kafka源码 apache kafka下载 3.用gradle构建产生IDEAproject文件 先装好idea的scala插件,不然构建时就会自己主动下载,因为没有国内镜像.速度会非常慢. [email protected]:~/Downloads/kafka_2.10-0.8.1$ gradle idea 假设是eclipseproject,运行:gradle eclipse 生成IDEAproject文件例如以下: 4.项目导

windows下subversion服务器搭建

一.下载subversion服务器端和客户端软件 1.subversion下载地址:http://subversion.tigris.org/ 2.svn比较流行的客户端Tortoisesvn下载地址:http://tortoisesvn.net/downloads 3.安装subversion服务器和Tortoisesvn,若是exe文件直接安装,若是zip解压后即可(若是想方便,可以在环境变量中配置bin) 二.创建版本库(Repository) 若是想在f:\svnroot下建立版本库,需