Storm流计算从入门到精通之技术篇(高并发策略、批处理事务、Trident精解、运维监控、企业场景)
课程讲师:Cloudy
课程分类:大数据
适合人群:初级
课时数量:28课时
用到技术:Storm集群、Zookeeper集群等
涉及项目:网站PV、UV案例实战、其他案例
咨询qq:1840215592
课程亮点:
1、Storm全面、系统、深入讲解,采用最新的稳定版本Storm 0.9.0.1 ;
2、注重实践,对较抽象难懂的技术点如Grouping策略、并发度及线程安全、批处理事务、DRPC、Storm Trident均结合企业场景开发案例进行讲解,
让学员觉得简单易懂;
3、分享积累的经验和技巧,从架构的角度剖析场景和设计实现方案;
4、讲师Cloudy具有丰富的电商云平台架构经验,对流计算更是涉足早、沉淀深,课程依然沿用重实践、重实战的风格。
学习课程需要具有:Java基础、Linux基础
学习课程可以提升的技能(Storm除外):Zookeeper、Java、Linux
Storm入门视频教程详细查看:http://www.ibeifeng.com/goods-427.html
课程大纲:
1、Storm简介和课程介绍
2、Storm原理和概念详解
3、Zookeeper集群搭建及基本使用
4、Storm集群搭建及测试
5、API简介和入门案例开发
6、Spout的Tail特性、storm-starter及maven使用、Grouping策略
7、实例讲解Grouping策略及并发
6种分组策略详解
并发度与线程安全
8、并发度详解、案例开发(高并发运用)
高并发xia住重线程安全
fieldsGrouping案例
9、案例开发——计算网站PV
通过2种方式实现汇总型计算。
10、案例优化引入Zookeeper锁控制线程操作
11、计算网站UV(去重计算模式)
去重计算模式实战讲解
12、【运维】集群统一启动和停止shell脚本开发
开发Storm集群统一启动和停止shell,该脚本在运维中非常有用和高效。
13、批处理事务原理详解
Storm事务工作原理深入讲解
14、Storm事务API及案例分析
Storm事务相关API详解
Storm事务案例分析
15、Storm事务案例实战之 ITransactionalSpout
Storm事务案例开发
ITransactionalSpout的实现
16、Storm事务案例升级之按天计算
结合企业场景,案例升级进行按天计算
17、Storm分区事务案例实战
案例之IPartitionedTransactionalSpout的实现和运用
18、Storm不透明分区事务案例实战
案例之IOpaquePartitionedTransactionalSpout 的实现和运用
19、DRPC精解和案例分析
DRPC工作原理精讲
DRPC案例分析
20、Storm Trident 入门
Trident是Storm基础API的抽象封装,等同于基于Hadoop的Pig。
Trident框架功能强大,调用简单,是Storm开发的利器。
本节讲述Trident编程模式和案例分析。
21、Trident API和概念
Trident相关API一览,尤其讲述3类Spout的变化
相关概念术语
22、Storm Trident实战之计算网站PV
采用简单企业场景进行Storm Trident实战开发
23、ITridentSpout、FirstN(取Top N)实现、流合并和Join
ITridentSpout实现讲解
FirstN(取Top N)实现原理
FirstN(取Top N)实现案例
流合并和Join
投影、调用链使用
24、Storm Trident之函数、流聚合及核心概念State
函数、流聚合及各类流输出类型
Trident核心概念State精讲
25、Storm Trident综合实战一(基于HBase的State)
Storm Trident综合实战,自定义开发HBase版State,同时实现非事务、事务、不透明事务 3中语义。
通过对State的深入理解,对理解Trident编程模型和灵活Trident开发很有帮助。
26、Storm Trident综合实战二
27、Storm Trident综合实战三
28、Storm集群和作业监控告警开发
该监控程序功能
1、可以对Storm集群主节点、工作节点状态监控
2、作业监控,Topology非法中止时发出告警