大数据知识学习及云计算

https://www.cnblogs.com/xing901022/p/6195422.html

介绍知识点

大数据技术原理与应用视频

https://blog.csdn.net/CSDN_fzs/article/details/78984845

http://dblab.xmu.edu.cn/blog/285/

handoop

包括开源项目:

  • common
  • hdfs 分布式文件系统
  • hbase 分布式数据库 随机读写、列数据
  • yarn 计算资源调度
  • mapreduce 磁盘离线批处理计算
  • spart 内存实时计算
  • hive、 pig(轻量流数据) 数据仓库(创建一系列mapreduce作业,支持sql,olap联机分析)
  • oozie 作业流调度 工作流管理
  • zookeeper 分布式协调服务
  • flume 日志收集
  • sqoop 数据导入导出 传统数据库数据传递 导入到hdfs hbase hive等
  • ambari handoop 快速部署工具

计算类型:

  • 批处理计算 代表:mapreduce
  • 实时计算 代表:spark -- 高效迭代计算
  • 图计算
  • 交互式查询分析计算

云计算

分布式存储及计算

虚拟化及多租户

  • Iaas 底层基础设施即服务
  • Paas 平台即服务
  • Saas 软件即服务

原文地址:https://www.cnblogs.com/antball/p/9070956.html

时间: 2024-08-29 21:46:50

大数据知识学习及云计算的相关文章

大数据最佳学习路线总结

一,题记 要说当下IT行业什么最火?ABC无出其右.所谓ABC者,AI + Big Data + Cloud也,即人工智能.大数据和云计算(云平台).每个领域目前都有行业领袖在引领前行,今天我们来讨论下大数据Big Data这个方向. 二,大数据里面的角色 角色一:大数据工程 大数据工程需要解决数据的定义.收集.计算与保存的工作,因此大数据工程师们在设计和部署这样的系统时首要考虑的是数据高可用的问题,即大数据工程系统需要实时地为下游业务系统或分析系统提供数据服务: 角色二:大数据分析 大数据分析

大数据怎么学习,在学习大数据之前,需要具备什么基础?

大数据又称黑暗数据,是指人脑无法处理的海量数据聚合成的信息资产,在民生.IT.金融.农业.通信等方面都有广泛应用.未来5年大数据行业呈井喷趋势,人才需求火爆,2018年大数据人才缺口更是高达900万.以后想要做大数据相关的工作,需要学习哪些技术知识? 罗马不是一天建成的,大数据工程师也不是短时间能锻造的.想要成为大数据开发工程师,也要看你是否骨骼惊奇,天赋过人!在学习大数据之前,你还需要有一定的基础!大数据学习资料分享群119599574 一.学习大数据需要的基础 1.java SE.EE(SS

从技术架构的角度去丰富你的大数据知识

对于大数据的学习,很长一段时间,都觉得非常迷茫.不知道具体该学习什么!进而导致知识的知识点挺多,而自己所会的内容都不能够形成很好的体系,进而为自己的职场加分.而最近一直在学习相关大数的架构知识,进而具体到一个厂商.这样反而自己学的很快,总结一下前段时间的学习,温故而知新!!! 首先,大数据开始做为概念开始进入公众并在实际业务中落地是在13年.从一项技术的发展来看,这项技术会在18年形成一个很好的闭环.而在此期间,不管你是不是大数据的项目,在这五年内,只要冠以大数据名称都可以获益. 所以,大数据第

大数据入门学习路线分享,请大家收下

大数据的学习技术点Hadoop核心(1) 分布式存储基石:HDFSHDFS简介 入门演示 构成及工作原理解析:数据块,NameNode, DataNode.数据写入与读取过程.数据复制.HA方案.文件类型. HDFS常用设置 Java API代码演示(2) 分布式计算基础:MapReduceMapReduce简介.编程模型.Java API 介绍.编程案例介绍.MapReduce调优(3) Hadoop集群资源管家:YARNYARN基本架构 资源调度过程 调度算法 YARN上的计算框架离线计算(

大数据如何学习,告诉你正确的学习姿势

现在是大数据的时代,也称作云数据,我们在网上的各种数据,最后把这些整理集合在一起,形成一个庞大的数据集合体,我们生活中大数据已经实时的应用了.那么,大数据如何学习?下面将会为大家介绍. 大数据如何学习 一.基础知识学习: 1.如果您此前对于数据库等方面的知识没有涉及,在学习大数据之前,建议先掌握基本的数据库知识,例如目前流行的关系型数据库管理系统MySQL, 非关系型数据库MongoDB,开源.支持网络.基于内存.键值对存储数据库Redis等相关的知识: 2.Java 是目前使用最为广泛的编程语

究竟多大才算是大数据,大数据怎么学习?

大数据,什么是大数据呢?多大的数据叫大数据?红火一时的数据分析走向了我们,纷纷称不分析数据企业将长久不了,可是究竟什么样的数据才是大数据呢,什么样的数据才是最大的呢? 如果你没有接触过大数据,那么你就不知道大数据究竟有多大,大到什么样的数据才能称之为大数据.那么,根据数据收集的端口,企业端与个人端之间,大数据的数量级别是不同的. 大数据开发学习有一定难度,零基础入门首先要学习Java语言打基础,一般而言,Java学习SE.EE,需要约3个月的时间:然后进入大数据技术体系的学习,主要学习Hadoo

《智慧城市—大数据、物联网和云计算之应用》

http://product.dangdang.com/23381479.html 智慧城市是多个垂直行业智能系统的联动而形成的智慧大系统.它可以推动服务企业.政府.金融.电信.公共事业为目标客户提供更好的服务. <智慧城市:大数据.物联网和云计算之应用>详细介绍了智慧城市大系统中的各个系统建设情况,提供了大量的试点例子,这些例子包括人数据平台.云平台.移动互联网.物联网.社交媒体.云存储.智慧环境.智慧政务.智慧旅游.中小型企业公共服务平台.智慧教育等等,以供读者研究. <智慧城市:大

大数据好学习吗?如何快速掌握大数据开发技能

大数据好学习吗?如何快速掌握大数据开发技能?经常被学员问到:大数据好学吗?想学大数据怕学不会等问题.我想说的是,大数据在当下是个非常热门的话题,大数据在深刻的影响着这个世界,在促进传统行业升级改造.引领新兴产业和新兴应用蓬勃发展.提升社会运行和管理效率等方面,大数据正引发新一轮革命.大数据是时代潮流,如果学一下就会了,那大数据行业现在恐怕已经被挤破门槛了吧,想学大数据还是得下苦功夫才行. 想学大数据,先把这几个技能学会再说: Apache Hive2.1 Hive是建立在Hadoop上的数据仓库

进阶指南|三个月大数据工程师学习计划

申明:本文旨在为普通程序员(Java程序员最佳)提供一个入门级别的大数据技术学习路径,不适用于大数据工程师的进阶学习,也不适用于零编程基础的同学. 前言 一.背景介绍 本人目前是一名大数据工程师,项目数据50T,日均数据增长20G左右,个人是从Java后端开发,经过3个月的业余自学成功转型大数据工程师. 很多初学者,对大数据的概念都是模糊不清的,大数据是什么,能做什么,学的时候,该按照什么线路去学习,学完往哪方面发展,想深入了解,想学习的同学欢迎加入大数据学习qq群:458345782,有大量干