Hadoop学习第二次：HDFS的应用场景 部署 原理与基本框架

1.HDFS的定义与特色

以文件为基本存储单位的劣势：难以实现负载均衡——文件大小不同，负载均衡难实现；用户自己控制文件大小；

难以实现并行化处理——只能利用一个节点资源处理一个文件，无法动用集群资源；

HDFS的定义：易于扩展的分布式文件系统；运行在大量廉价机器上，提供容错机制；为大量用户提供性能不错的文件存储服务；

优点：高容错性（数据自动保存多个副本，副本丢失后自动恢复）  适合批处理（移动计算而不是数据，数据位置暴露给计算框架） 适合大数据的处理 流式文件访问 可构建在廉价的机器上

不擅长：低延迟数据访问  小文件存取 并发写入，文件随机修改

2.HDFS架构

NameNode：master 管理HDFS的名称空间 管理数据块映射信息，配置副本策略，处理客户端读写请求

DataNode：Slave 存储实际的数据块，执行数据块读写

Client：文件切分 与NameNode交互，获取文件位置信息；与DataNode交互，读取或写入数据；管理HDFS；访问HDFS

Secondary NameNode：并非NameNode热备；辅助NameNode，分担其工作量；定期合并fsimage和fsedits，推送给NameNode；紧急情况下可辅助恢复NameNode

3.HDFS工作原理

4HDFS与其他系统结合