工作了两年多了,一直没写过总结。我想,是该写写总结了,看看最近的收获和教训。
我从事大数据开发,是始于2015年,接触的技术也比较有限,从MapReduce开始学起,到HDFS和Hadoop she‘ll命令,到Spark、Hive、Hbase,Sqoop,也算基本入门了,期间还部署了Hadoop集群,(由于只是测试Hadoop集群部署,后面这个集群撤了),用Sqoop、MapReduce和Spark做了一个大数据项目,在2015年底正式上线了,目前运行正常。
到了2016年,又做了几个项目。具体的项目有推荐平台,用户画像,实时推荐系统。在做个过程中,使用了很多新技术,Hadoop、Spark、Hive、Sqoop、Hbase、Flume、Kafka、Redis、MemCache、Parquet、Avro等。
在平台建设方面,我研究了Hue平台管理工具、Ooozie这个任务调度工具。
2017年计划
0、复习Java的基础语法、并发编程等。《Java编程思想》、《Java与设计模式》、《深入理解Java虚拟机》、《Java并发编程实战》
1、再看几次Scala语法:《快学Scala》
2、总结Spark,写几篇总结文章
3、阅读Hadoop和Spark源码
4、继续学习研究应用大数据相关技术,Hadoop、Hbase、Hive、Kafka、Flume等
4、复习《微积分》、《概率论与数理统计》、《线性代数》
5、掌握机器学习主要的几个算法的思想、推导过程和代码。
时间: 2024-11-05 14:28:58