打包运行storm代码

两个节点的storm集群:

host01


host02


zk


nimbus


supervisor

启动集群:

在host01上:

  1. /usr/local/storm/bin/storm nimbus

在host02上:

  1. /usr/local/storm/bin/storm supervisor

报错:

  1. 2015-09-21T21:08:17.294+0800 o.a.s.z.ClientCnxn[WARN]Session0x0for server null, unexpected error, closing socket connection and attempting reconnect
  2. java.net.NoRouteToHostException:No route to host
  3. at sun.nio.ch.SocketChannelImpl.checkConnect(NativeMethod)~[na:1.7.0_51]
  4. at sun.nio.ch.SocketChannelImpl.finishConnect(SocketChannelImpl.java:739)~[na:1.7.0_51]
  5. at org.apache.storm.zookeeper.ClientCnxnSocketNIO.doTransport(ClientCnxnSocketNIO.java:361)~[storm-core-0.9.5.jar:0.9.5]
  6. at org.apache.storm.zookeeper.ClientCnxn$SendThread.run(ClientCnxn.java:1081)~[storm-core-0.9.5.jar:0.9.5]
  7. 2015-09-21T21:08:18.412+0800 o.a.s.z.ClientCnxn[INFO]Opening socket connection to server host01.zh/192.168.1.104:2181.Will not attempt to authenticate using SASL (unknown error)

发现

关掉zookeeper节点的防火墙解决:

  1. [[email protected] logs]# service iptables stop iptables: Setting chains to policy ACCEPT: filter [ OK ] iptables: Flushing firewall rules: [ OK ] iptables: Unloading modules: [ OK

UI进程启动,在浏览器打不开storm UI: http://192.168.1.104:8080/index.html

  1. [[email protected] logs]#/usr/local/storm/bin/storm list
  2. Running:/usr/local/jdk/bin/java -client -Dstorm.options=-Dstorm.home=/usr/local/storm -Dstorm.log.dir=/usr/local/storm/logs -Djava.library.path=/usr/local/lib:/opt/local/lib:/usr/lib -Dstorm.conf.file=-cp /usr/local/storm/lib/reflectasm-1.07-shaded.jar:/usr/local/storm/lib/storm-core-0.9.5.jar:/usr/local/storm/lib/jline-2.11.jar:/usr/local/storm/lib/log4j-over-slf4j-1.6.6.jar:/usr/local/storm/lib/snakeyaml-1.11.jar:/usr/local/storm/lib/logback-classic-1.0.13.jar:/usr/local/storm/lib/clj-stacktrace-0.2.2.jar:/usr/local/storm/lib/clojure-1.5.1.jar:/usr/local/storm/lib/logback-core-1.0.13.jar:/usr/local/storm/lib/tools.macro-0.1.0.jar:/usr/local/storm/lib/jetty-6.1.26.jar:/usr/local/storm/lib/commons-logging-1.1.3.jar:/usr/local/storm/lib/jgrapht-core-0.9.0.jar:/usr/local/storm/lib/joda-time-2.0.jar:/usr/local/storm/lib/minlog-1.2.jar:/usr/local/storm/lib/ring-jetty-adapter-0.3.11.jar:/usr/local/storm/lib/clj-time-0.4.1.jar:/usr/local/storm/lib/ring-core-1.1.5.jar:/usr/local/storm/lib/tools.logging-0.2.3.jar:/usr/local/storm/lib/slf4j-api-1.7.5.jar:/usr/local/storm/lib/chill-java-0.3.5.jar:/usr/local/storm/lib/commons-codec-1.6.jar:/usr/local/storm/lib/ring-devel-0.3.11.jar:/usr/local/storm/lib/tools.cli-0.2.4.jar:/usr/local/storm/lib/ring-servlet-0.3.11.jar:/usr/local/storm/lib/math.numeric-tower-0.0.1.jar:/usr/local/storm/lib/kryo-2.21.jar:/usr/local/storm/lib/jetty-util-6.1.26.jar:/usr/local/storm/lib/hiccup-0.3.6.jar:/usr/local/storm/lib/commons-io-2.4.jar:/usr/local/storm/lib/servlet-api-2.5.jar:/usr/local/storm/lib/carbonite-1.4.0.jar:/usr/local/storm/lib/clout-1.0.1.jar:/usr/local/storm/lib/json-simple-1.1.jar:/usr/local/storm/lib/asm-4.0.jar:/usr/local/storm/lib/objenesis-1.2.jar:/usr/local/storm/lib/compojure-1.1.3.jar:/usr/local/storm/lib/commons-lang-2.5.jar:/usr/local/storm/lib/commons-exec-1.1.jar:/usr/local/storm/lib/disruptor-2.10.1.jar:/usr/local/storm/lib/core.incubator-0.1.0.jar:/usr/local/storm/lib/commons-fileupload-1.2.1.jar:/usr/local/storm/conf:/usr/local/storm/bin backtype.storm.command.list
  3. 2535[main] INFO backtype.storm.thrift -Connecting to Nimbus at host01.zh:6627
  4. Topology_nameStatusNum_tasksNum_workersUptime_secs
  5. -------------------------------------------------------------------
  6. log-topology ACTIVE 00656

打包提交代码

在eclipse项目目录下:

命令行中执行maven打包命令:

  1. cd E:\git_local_repo\bigdata\StormXB
  2. mvn package

上传到storm集群中:

运行:

  1. /usr/local/storm/bin/storm jar StormXB-0.0.1-SNAPSHOT.jar ali.storm.action.WebLogStatToplgy

提交任务后,在supervisor上会多出:work进程

启动UI:

  1. [[email protected] logs]#/usr/local/storm/bin/storm ui >/dev/null 2>&1&
  2. [1]2729
  3. [[email protected] logs]# jps
  4. 2729 core
  5. 2769Jps
  6. 1376QuorumPeerMain
  7. 2376 nimbus

Storm UI

http://192.168.1.104:8080/index.html

对任务进行操作:杀死 激活等

时间: 2024-10-10 23:51:05

打包运行storm代码的相关文章

storm源码之storm代码结构【译】【转】

[原]storm源码之storm代码结构[译] 说明:本文翻译自Storm在GitHub上的官方Wiki中提供的Storm代码结构描述一节Structure of the codebase,希望对正在基于Storm进行源码级学习和研究的朋友有所帮助. Storm的源码共分为三个不同的层次. 首先,Storm在设计之初就考虑到了兼容多语言开发.Nimbus是一个thrift服务,topologies被定义为Thrift结构体.Thrift的运用使得Storm可以被任意开发语言使用. 其次,Stor

学习编译并运行C代码

以<UNIX网络编程>中的代码为例,学习如何编译并运行C代码. 根据 UNIX网络编程(第3版)环境搭建——使用MAC OSX10.10,能够成功运行 1.下载本书的头文件及示例源码原书地址:http://www.unpbook.com/src.html 2.解压unpv13e.tar.gz 3.切换到unpv13文件夹后依次执行 ./configure cd lib make cd ../libfree make 此处出现了报错: inet_ntop.c:56:1: error: confl

SAE部署Python-让云端自动运行Python代码

之前写过模拟登录新浪微博的帖子,然而我并没有去爬过微博的数据,觉得有点浪费,于是就想写一个代码来发微博.写完之后觉得如果能自动发微博就好了,但是我又不可能24小时开始(晚上12点后还会断网),也没有vps(穷学生狗),找过几个免费vps未果,然后想到之前用过新浪SAE,就想能不能在上面试试. 试了一天左右终于让我试出来了!!  基本实现了: 1.定时发送,这里是定时半小时 2.离线自动,基于sae,无需开电脑blabla 但是也有不完美的地方:本地我可以直接模拟登录,但是把代码放到sae上死都不

storm源码之storm代码结构【译】

说明:本文翻译自Storm在GitHub上的官方Wiki中提供的Storm代码结构描述一节Structure of the codebase,希望对正在基于Storm进行源码级学习和研究的朋友有所帮助. Storm的源码共分为三个不同的层次. 首先,Storm在设计之初就考虑到了兼容多语言开发.Nimbus是一个thrift服务,topologies被定义为Thrift结构体. Thrift优势 : 使得Storm可以被任意开发语言使用. 其次,Storm的所有接口都是Java语言来定义的.因此

使用命令行编译打包运行自己的MapReduce程序 Hadoop2.6.0

使用命令行编译打包运行自己的MapReduce程序 Hadoop2.6.0 网上的 MapReduce WordCount 教程对于如何编译 WordCount.java 几乎是一笔带过… 而有写到的,大多又是 0.20 等旧版本版本的做法,即 javac -classpath /usr/local/hadoop/hadoop-1.0.1/hadoop-core-1.0.1.jar WordCount.java,但较新的 2.X 版本中,已经没有 hadoop-core*.jar 这个文件,因此

Java多层目录打包和解压代码(apache commons compress, io, lang)

Java多层目录打包和解压代码(apache commons compress, io, lang) package zip;   import java.io.BufferedOutputStream; import java.io.ByteArrayOutputStream; import java.io.File; import java.io.FileInputStream; import java.io.FileNotFoundException; import java.io.Fil

ASP.NET定时调用WebService 运行后台代码

效果: 通过在网站的Global.asax的Application_Start方法中 加入定时器 定时调用WebService 该WebService的一个方法 负责在后台 向数据库的某个表加入数据 步骤: 1.通过VS 新建一个网站 2.加入Global.asax 3.加入WebService 编辑 并 加入引用 4.对Global.as 效果:通过在网站的Global.asax的Application_Start方法中加入定时器 定时调用WebService该WebService的一个方法

运行html代码

<html> <head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> <title>无标题</title> <script language="JavaScript" type="text/JavaScript"> //运行文本域代码 function run

在线运行HTML代码器

在线运行HTML代码器(二)和前面的(一)大同小异,关键部分为JS代码,这次是把运行器所有的JS功能集中放在一起.以下为HTML代码: <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html xmlns="http://www.w3.org/