CentOS6.5 安装Storm集群

1、首先安装依赖包

[[email protected] ~]# yum install uuid*
[[email protected] ~]# yum install libuuid
[[email protected] ~]# yum install libuuid-devel
[[email protected] ~]# yum install libtool
[[email protected] ~]# yum install e2fsprogs
[[email protected] ~]# yum install e2fsprogs-devel

2、安装 zeromq

下载:http://download.zeromq.org/zeromq-4.1.2.tar.gz

解压:tar xzf zeromq-4.1.2.tar.gz

编译安装:

./configure --without-libsodium
make
make install
sudo ldconfig

3、安装 jzmq (先安装JDK)

安装git:

yum install git
git clone git://github.com/nathanmarz/jzmq.git
cd jzmq

如果不安装git,则使用wget:

wget https://codeload.github.com/zeromq/jzmq/zip/master
unzip  jzmq-master.zip
cd jzmq-jni/

编译安装:

./autogen.sh
./configure
make
make install

4、安装 Python(CentOS自带python2.6可以略过此步)

wget https://www.python.org/ftp/python/3.5.0/Python-3.5.0.tgz

tar -zxvf Python-3.5.0.tgz
cd Python-2.7.2
./configure
make
make install

安装完后:

vi /etc/ld.so.conf 追加 /usr/local/lib/

5、安装 zookeeper

参考文档:http://www.cnblogs.com/hunttown/p/5452138.html

6、安装 storm

下载:http://mirror.bit.edu.cn/apache/storm/apache-storm-0.9.6/apache-storm-0.9.6.tar.gz

解压:tar -zxvf apache-storm-0.9.6.tar.gz

设置环境变量:

[[email protected] ~]# vim /etc/profile
#storm
export STORM_HOME=/home/hadoopuser/apache-storm-0.9.6
export PATH=$PATH:$STORM_HOME/bin

[root@Hadoop-NN-01 ~]# source /etc/profile    #使环境变量生效

7、配置

storm配置文档:https://github.com/nathanmarz/storm/blob/master/conf/defaults.yaml

[[email protected] conf]# vim storm.yaml

#注意yaml格式的要求,注意在每一项的开始时要加空格,冒号后也必须要加空格,否则storm就不认识这个配置文件了

storm.zookeeper.servers:
    - " Zookeeper-01"
    - " Zookeeper-02"
    - " Zookeeper-03"

# storm.zookeeper.port : 2181  #非默认端口时配置
nimbus.host: " Hadoop-NN-01"
nimbus.thrift.port: 6627
storm.zookeeper.port: 2181
storm.local.dir: "/home/hadoopuser/apache-storm-0.9.6/tmp"

supervisor.slots.ports:
    - 6700
    - 6701
    - 6702

# to nimbus 1G够用了
nimbus.childopts: "-Xmx1024m"

# to supervisor 1G够用了
supervisor.childopts: "-Xmx1024m"

# to worker 作业一般可以给的大一些,因为要处理数据。一般给4G以上。
worker.childopts: "-Xmx4096m"

Storm集群中有两种节点,一种是控制节点(Nimbus节点),另一种是工作节点(Supervisor节点)。所有Topology任务的提交必须在Storm客户端节点上进行需要配置~/.storm/storm.yaml文件,由Nimbus节点分配给其他Supervisor节点进行处理。

mkdir ~/.storm
cp /home/hadoopuser/apache-storm-0.9.6/conf/storm.yaml ~/.storm/storm.yaml

#修改hosts(可省略):

nimbus节点hosts改为 nimbusHost

supervisor节点hosts改为 supervisorHost1…...x

#进程说明:

zkServer nimbus, supervisor 和 ui

storm nimbus & 要等待一会直到出现---- backtype.storm.daemon.nimbus

storm supervisor & 要等待一会直到出现---- storm.daemon.supervisor

storm ui & 要等待一会直到出现---- properties backtype.storm.ui.core

jps 可以查看各个进程的运行状态

core 对应的进程是 Storm UI

Jps 对应的进程是 Java jps

nimbus 对应的进程是 Storm nimbus

supervisor 对应的进程是 Storm supervisor

QuorumPeerMain 对应的进程是 zkServer.sh

8、启动storm

#启动zookeeper:
[[email protected] ~]# zkServer.sh start

#启动Storm:
[[email protected] ~]# storm nimbus &    #后台启动
[[email protected] ~]# storm supervisor &
[[email protected] ~]# storm ui &

浏览器中查看状态:http://192.168.107.82:8080/

9、提交作业(topology

[[email protected] ~]# storm jar xxxx.jar storm.starter.WordCountTopology arg1 arg2 arg3

10、关闭作业

[[email protected] ~]# storm kill topologyname

注意事项:

1、Storm后台进程被启动后,将在Storm安装部署目录下的logs/子目录下生成各个进程的日志文件。

2、经测试,Storm UI必须和Storm Nimbus部署在同一台机器上,否则UI无法正常工作,因为UI进程会检查本机是否存在Nimbus链接。

3、为了方便使用,可以将bin/storm加入到系统环境变量中。

时间: 2024-07-29 12:50:34

CentOS6.5 安装Storm集群的相关文章

安装storm集群

手工安装Storm集群 注:最新的Storm已不再必须依赖ZeroMQ,各种依赖的库和软件也已经有更新的版本. 要手工安装Storm,需要先安装以下软件 Zookeeper集群(安装方法详见管理向导) Java6.0 Python2.6.6 Unzip命令 NOTE: Nimbus和管理进程将要依赖Java.Python和unzip命令 安装本地库: 安装ZeroMQ: 1 wget http://download.zeromq.org/historic/zeromq-2.1.7.tar.gz

在Ubuntu15.10下安装Storm集群(一个机器上运行Nimbus和Supervisor 适合初学者)

1. 下载所需的资源 jdk-8u65-linux-x64.tar.gz zeromq-4.1.4.tar.gz jzmq-master.zip zookeeper-3.5.1-alpha.tar.gz apache-storm-0.10.0.tar.gz 2. 安装jdk 我们打算把jdk安装在/usr/lib/jvm中:首先把Windows上下载好的jdk包复制到Ubuntu系统的用户文件夹(/home/<你的用户名>)中(如果无法复制可能是你的VMTools没有正确安装,需要重新安装VM

36. CentOS-6.3安装Mysql集群

安装要求 安装环境:CentOS-6.3安装方式:源码编译安装 软件名称:mysql-cluster-gpl-7.2.6-linux2.6-x86_64.tar.gz下载地址:http://mysql.mirror.kangaroot.net/Downloads/软件安装位置:/usr/local/mysql数据存放位置:/var/mysql/data日志存放位置:/var/mysql/logs 集群设计 首先设计集群的安装分配方式,我共需要5台服务器,服务器分配如下: 管理节点:    192

CentOS6.5安装HBase集群

1.配置SSH免登录 请参考:http://www.cnblogs.com/hunttown/p/5470357.html 2.解压HBase并重命名 [[email protected] ~]# tar xzvf hbase-1.2.1-bin.tar.gz -C /usr/local/ [[email protected] ~]# cd /usr/local/ [[email protected] local]# mv hbase-1.2.1 hbase 3.修改/usr/local/hba

redis CentOS6.5安装及集群部署

1.下载redis source包 链接:https://pan.baidu.com/s/122ZCjNvjl9Jx6M2YsLrncw 密码:92ze 2.解压 tar -xzf redis-3.2.9.tar.gz 3.安装 $cd rredis-3.2.9 $make $make PREFIX=/usr/local/redis install 4.创建pid,日志,数据dump目录 $mkdir /var/redis/run $mkdir /var/redis/log $mkdir /va

window10单机安装storm集群

适合范围:storm自由开源的分布式实时计算系统,擅长处理海量数据.适合处理实时数据而不是批处理. 安装前的准备 1.安装zookeeper ①下载zookeeperhttps://zookeeper.apache.org/,点击download进入新页面之后,--->download,选择一个镜像文件下载到本地: ②下面是我选择的文件http://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/ ,下载的版本是zookeeper-3.4.14: ③解

CentOS6.5 安装Kafka集群

1.安装zookeeper 参考文档:http://www.cnblogs.com/hunttown/p/5452138.html 2.下载:https://www.apache.org/dyn/closer.cgi?path=/kafka/0.9.0.1/kafka_2.10-0.9.0.1.tgz kafka_2.10-0.9.0.1.tgz       #2.10指的中Scala版本,0.9.0.1批的是Kafka版本. 3.安装与配置 解压:tar xzf kafka_2.10-0.9.

1.1 Storm集群安装部署步骤

安装storm集群,需要依赖以下组件: Zookeeper Python Zeromq Storm JDK JZMQ 故安装过程根据上面的组件分为以下几步: 安装JDK 安装Zookeeper集群 安装Python及依赖 安装Storm 另外,操作系统环境为:Centos6.4,安装用户为:root. 1. 安装JDK 安装jdk有很多方法,可以参考文博客使用yum安装CDH Hadoop集群中的jdk安装步骤,需要说明的是下面的zookeeper集群安装方法也可以参考此文. 不管你用什么方法,

Storm集群安装部署步骤【详细版】

作者: 大圆那些事 | 文章可以转载,请以超链接形式标明文章原始出处和作者信息 网址: http://www.cnblogs.com/panfeng412/archive/2012/11/30/how-to-install-and-deploy-storm-cluster.html 本文以Twitter Storm官方Wiki为基础,详细描述如何快速搭建一个Storm集群,其中,项目实践中遇到的问题及经验总结,在相应章节以“注意事项”的形式给出. 1. Storm集群组件 Storm集群中包含两