Storm的通信机制,需要满足如下一些条件以满足Storm的语义。
1、建立数据传输的缓冲区。在通信连接没有建立之前把发送的数据缓存起来。数据发送方可以在连接建立之前发送消息,而不需要等连接建立起来,可是的接收方是独立运行的。
2、在消息传输层保证消息最多只能发送一次,Storm系统有ACK机制,是的没有被发送成功的消息会被重发,若消息层面也重发,会导致消息发送多次。
这种消息机制由两个接口来定义,backtype.storm.messaging.IContext和backtype.storm.messaging.IConnection.
IContext负责客户端和服务器端建立的连接,主要有四个方法。
1、prepare(Map stormConf):总从Storm定义的prepare方法,可以接收storm的配置。
2、term():终止,方法会在worker卸载这个传输插件的时候调用,自定义实现时可以在这里释放占用的资源。
3、bind(String topologyId,int port):建立服务器端的连接。
4、connect(String stormId,String host,int port):建立一个客户端的连接。
IConnect定义了在IContext上发送、接收数据的接口。
1、recv(int flag):接收消息。
2、send(int taskId,byte[] payload):发送消息。
3、close():该连接关闭的时候调用,释放相关资源。
Topology原理整理
从运行时Topology的实际执行过程角度,作业是由多个组件的实例,也即任务,按照构造时简历的逻辑顺序呢和配置的并发度,形成的数据流图结构。
流(stream)是Storm中对传递的数据进行的抽象,流是时间上无限的数据项Tuple序列。Spout是Stream的源,为Topology从特定数据源获取数据项,并向作业中发射(emit)形成Stream。(项目中使用了kafkaspout,接收后进行数据校验再使用emit发送给bolt),bolt可以同时接受任意多个上游送达的Stream作为输入,进行数据的处理过程,也可以在bolt做完处理后执行(emit)发射新的Stream继续给下游的Bolt进行处理。
Stream中的Tuple可以被指定结构,由一个或多个域(field)组成。Tuple的定义不必是严格统一的,而是可以在每个spout,bolt中定义。默认情况下Tuple可以包含基本类型,如integers、longs、shorts、bytes、strings、doubles、floats、booleans和byte arrays.
流组模式
1、Shuffle Grouping 随机分组
public void createTopology(TopologyBuilder builder){ kafkaSpout kafkaspout = getKafkaSpout(topicName); //Topology中增加一个Spout builder.setSpout(...) //在Topology中增加一个Bolt,可设置并行度,以随机分组的方式发送,shuffleGrouping后的参数为源组建的Id builder.setBolet(boltName,new BlackListBolt(),3).shuffleGrouping(spoutName);}
在这种流组模式下,源组件将其发送的数据项,以随机的方式向其所有目标组件发送,可以保证每个目标组件收到数量近似的Tuple。
2、All Grouping 副本分组
//allGrouping(java.lang.String componentId) //allGrouping(java.lang.String componentId,java.lang.String streamId) //参数streamId是声明的流的标识 builder.setBolet(boltName,new BlackListBolt(),3).allGrouping(spoutName,"signals“);
在这种模式下,源组件将其发送的数据项,以副本的形式向其所有目标组件发送,可以保证每个目标组件均收到同一个Tuple,就好比zookeeper的配置文件同步一样,每个bolt都会收到同一份。
3、Global Grouping 全局分组
这种模式下,源组件将其发送的数据项,全部发送给目标组件的某一个实例,而且该实例是这个组件中ID最小的那个任务。可以保证所有数据项只会被目标组件的一份实例(一个bolt)所处理
builder.setBolet(boltName,new BlackListBolt(),3).globalGrouping(SpoutName);
4.Fiellds Grouping 按域分组
builder.setBolet(boltName,new BlackListBolt(),3).fieldsGrouping(spoutName,new Field("域名");
源组件将其发送的数据项,按Tuple中指定域的值分组,向下游目标组件发送,可以保证拥有相同域组合的值的Tuple,被发送给同一个Bolt.
5、Direct Grouping 直接分组
builder.setSpout("kafkaSpout",topicSpout) builder.setBolt(boltname1,new boltName1(),1).shuffleGrouping("kafkaSpout"); //以直接分组的模式接收上述bolt发送的数据项 builder.setBolt(boltname2,new boltname2(),2).directGrouping(boltname1);
源组件将其发送的数据项,以直接指定目标组件的方式发送,可以使指定组件接收给定的Tuple.需要注意的是,接收bolt的executle()函数中,哟啊使用emitDirect()替代emit,用于向指定的具名流中发送数据项
构建Topology
构建TopologyBuilder主要给出了三类方法:创建Topology、增加bolt和增加Spout的方法。setBolt和setSpout接口各有不同多种重载方法,均返回用于声明组件输入的对象。
1、id:组件(spout、Bolt)的标识,字符串类型,若需要引用该组件,就使用这里指定的标识ID。比如使用"kafkaSpout"
2、bolt:添加的bolt对象,再setBolt的重载方法中,存在IRichBolt和IBasicBolt两类bolt参数,项目中用到的是IRichBolt,区别在于,BasicBolt用于非聚集处理,能够自动进行(anchoring)和(acking)
3、spout:添加的Spout对象,在setSpout方法中该参数是IRichSpout类型的Spout接口。
4、parallelism_hint:并行度,数值型参数。设置组件运行时将要被分配的线程数量。
参考:《Storm 大数据流式计算及应用实践》