高效搭建Storm完全分布式集群

环境说明

1、硬件说明

使用三台PC机,角色分配如下

2、软件说明

约定所有软件都放在/usr/local/路径下

准备工作

1、安装jdk

2、配置SSH

Storm集群安装

安装流程图

1、安装Zookeeper集群

2、安装Storm依赖

zeromq、jzmq、python

2.1、安装zeromq

tar -zxvf zeromq-2.1.7.tar.gz

cd zeromq-2.1.7

是源码,需先编译

./configure 检查编译环境

安装依赖

rpm -ivh libstdc++-devel-4.4.7-3.el6.i686.rpm

rpm -ivh gcc-c++-4.4.7-3.el6.i686.rpm

rpm -ivh libuuid-devel-2.17.2-12.9.el6.i686.rpm

./configure 检查编译环境

make 编译

make install 安装

2.2、安装jzmq

unzip jzmq-master.zip

安装依赖

rpm -ivh autoconf-2.63-5.1.el6.noarch.rpm

rpm -ivh automake-1.11.1-4.el6.noarch.rpm

rpm -ivh libtool-2.2.6-15.5.el6.i686.rpm

在/usr/local/jzmq-master路径下

./autogen.sh

./configure

make

make install

2.3、检查python

which python

python -V

3、安装storm

3.1、unzip storm-0.8.2.zip

3.2.1、配置storm环境变量

# set storm  environment

export STORM_HOME=/usr/local/storm-0.8.2

export PATH=$PATH:$STORM_HOME/bin

3.2.2、修改Storm的配置文件

vi storm.yaml

配置Zookeeper

配置storm

4、启动Storm集群

4.1、各节点启动Zookeeper
zkServer.sh start

4.2、master启动Storm
storm nimbus > ./nimbus.log 2>&1 &

4.3、子节点启动 bin/storm supervisor > ./supervisor.log 2>&1 &

4.4、master启动图形化管理界面进程(进程名core) storm ui > ./core.log 2>&1 &

5、启动验证

5.1 Java守护进程

5.2 web端

http://hadoop100:8080/

Storm集群完全分布式安装Successfully,欢迎留言交流

高效搭建Storm完全分布式集群

时间: 2024-08-11 02:01:49

高效搭建Storm完全分布式集群的相关文章

高效搭建Spark完全分布式集群

写在前面一: 本文详细总结Spark分布式集群的安装步骤,帮助想要学习Spark的技术爱好者快速搭建Spark的学习研究环境. 写在前面二: 使用软件说明 约定,Spark相关软件存放目录:/usr/local/yujianxin/spark, Hadoop相关软件存放目录: /home/yujianxin/hadoop. Spark集群示意图 一.具体安装步骤 1.安装jdk 2.安装Hadoop集群,参考http://blog.csdn.net/aaronhadoop/article/det

【web】 亿级Web系统搭建——单机到分布式集群

当一个Web系统从日访问量10万逐步增长到1000万,甚至超过1亿的过程中,Web系统承受的压力会越来越大,在这个过程中,我们会遇到很多的问题.为了解决这些性能压力带来问题,我们需要在Web系统架构层面搭建多个层次的缓存机制.在不同的压力阶段,我们会遇到不同的问题,通过搭建不同的服务和架构来解决. Web负载均衡 Web负载均衡(Load Balancing),简单地说就是给我们的服务器集群分配“工作任务”,而采用恰当的分配方式,对于保护处于后端的Web服务器来说,非常重要. 负载均衡的策略有很

很不错的文章---【问底】徐汉彬:亿级Web系统搭建——单机到分布式集群

原文:很不错的文章---[问底]徐汉彬:亿级Web系统搭建--单机到分布式集群 [导读]徐汉彬曾在阿里巴巴和腾讯从事4年多的技术研发工作,负责过日请求量过亿的Web系统升级与重构,目前在小满科技创业,从事SaaS服务技术建设. 大规模流量的网站架构,从来都是慢慢“成长”而来.而这个过程中,会遇到很多问题,在不断解决问题的过程中,Web系统变得越来越大.并且,新的挑战又往往出现在旧的解决方案之上.希望这篇文章能够为技术人员提供一定的参考和帮助. 以下为原文 当一个Web系统从日访问量10万逐步增长

ZooKeeper的伪分布式集群搭建以及真分布式集群搭建

zk集群的一些基本概念 zookeeper集群搭建: zk集群,主从节点,心跳机制(选举模式) 配置数据文件 myid 1/2/3 对应 server.1/2/3 通过 zkCli.sh -server [ip]:[port] 命令检测集群是否配置成功 和其他大多数集群结构一样,zookeeper集群也是主从结构.搭建集群时,机器数量最低也是三台,因为小于三台就无法进行选举.选举就是当集群中的master节点挂掉之后,剩余的两台机器会进行选举,在这两台机器中选举出一台来做master节点.而当原

亿级Web系统搭建——单机到分布式集群

原文转自:http://kb.cnblogs.com/page/509402/ 当一个Web系统从日访问量10万逐步增长到1000万,甚至超过1亿的过程中,Web系统承受的压力会越来越大,在这个过程中,我们会遇到很多的问题.为了解决这些性能压力带来问题,我们需要在Web系统架构层面搭建多个层次的缓存机制.在不同的压力阶段,我们会遇到不同的问题,通过搭建不同的服务和架构来解决. Web负载均衡 Web负载均衡(Load Balancing),简单地说就是给我们的服务器集群分配“工作任务”,而采用恰

(转)亿级Web系统搭建——单机到分布式集群

当一个Web系统从日访问量10万逐步增长到1000万,甚至超过1亿的过程中,Web系统承受的压力会越来越大,在这个过程中,我们会遇到很多的问题.为了解决这些性能压力带来问题,我们需要在Web系统架构层面搭建多个层次的缓存机制.在不同的压力阶段,我们会遇到不同的问题,通过搭建不同的服务和架构来解决. Web负载均衡  Web负载均衡(Load Balancing),简单地说就是给我们的服务器集群分配“工作任务”,而采用恰当的分配方式,对于保护处于后端的Web服务器来说,非常重要. 负载均衡的策略有

[转]亿级Web系统搭建——单机到分布式集群

当一个Web系统从日访问量10万逐步增长到1000万,甚至超过1亿的过程中,Web系统承受的压力会越来越大,在这个过程中,我 们会遇到很多的问题.为了解决这些性能压力带来问题,我们需要在Web系统架构层面搭建多个层次的缓存机制.在不同的压力阶段,我们会遇到不同的问题,通 过搭建不同的服务和架构来解决. Web负载均衡 Web负载均衡(Load Balancing),简单地说就是给我们的服务器集群分配“工作任务”,而采用恰当的分配方式,对于保护处于后端的Web服务器来说,非常重要. 负载均衡的策略

徐汉彬:亿级Web系统搭建——单机到分布式集群(转载)

文章转载自http://www.csdn.net/article/2014-11-06/2822529/1 当一个Web系统从日访问量10万逐步增长到1000万,甚至超过1亿的过程中,Web系统承受的压力会越来越大,在这个过程中,我们会遇到很多的问题.为了解决这些性能压力带来问题,我们需要在Web系统架构层面搭建多个层次的缓存机制.在不同的压力阶段,我们会遇到不同的问题,通过搭建不同的服务和架构来解决. Web负载均衡  Web负载均衡(Load Balancing),简单地说就是给我们的服务器

亿级Web系统搭建——单机到分布式集群[转]

当一个Web系统从日访问量10万逐步增长到1000万,甚至超过1亿的过程中,Web系统承受的压力会越来越大,在这个过程中,我们会遇到很多的问题.为了解决这些性能压力带来问题,我们需要在Web系统架构层面搭建多个层次的缓存机制.在不同的压力阶段,我们会遇到不同的问题,通过搭建不同的服务和架构来解决. Web负载均衡 Web负载均衡(Load Balancing),简单地说就是给我们的服务器集群分配“工作任务”,而采用恰当的分配方式,对于保护处于后端的Web服务器来说,非常重要. 负载均衡的策略有很