Hbase安装详解

一、简介

HBase – Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。HBase利用Hadoop HDFS作为其文件存储系统,利用Hadoop MapReduce来处理HBase中的海量数据,利用Zookeeper作为协调工具。

1.HBase(NoSQL)的数据模型

1)        表(table),是存储管理数据的。

2)        行键(row key),类似于MySQL中的主键。行键是HBase表天然自带的。

3)        列族(column family),列的集合。

a)  HBase中列族是需要在定义表时指定的,列是在插入记录时动态增加的。

b)  HBase表中的数据,每个列族单独一个文件。

4)        时间戳(timestamp),列(也称作标签、修饰符)的一个属性。行键和列确定的单元格,可以存储多个数据,每个数据含有时间戳属性,数据具有版本特性。如果不指定时间戳或者版本,默认取最新的数据。

5)        存储的数据都是字节数组。

6)        表中的数据是按照行键的顺序物理存储的。

2.HBase的物理模型

1)        HBase是适合海量数据(如20PB)的秒级简单查询的数据库。

2)        HBase表中的记录,按照行键进行拆分, 拆分成一个个的region。许多个region存储在regionserver(单独的物理机器)中的。这样,对表的操作转化为对多台region server的并行查询。

3.HBase的体系结构

HBase是主从式结构,HMaster、HRegionServer

二、本地伪分布式安装

我使用的是HBase-0.94.7  http://pan.baidu.com/s/1nvvlBx3

1.  解压

解压到/usr/local/hbase-0.94.7-securitu目录,我的安装包在桌面。

命令:sudo tar –zxvf /home/zhong/Desktop/ hbase-0.94.7-security.tar.gz  –C /usr/local

2.  设置环境变量

命令:sudo  vim  /etc/profile

增加:export HBASE_HOME=/usr/local/hbase-0.94.7-security

export PATH=$HBASE_HOME/bin:$PATH

完成后执行命令:source /etc/profile 使环境变量生效

3.  修改HBASE_HOME/conf目录下hbase-env.sh文件

修改:exportJAVA_HOME=/usr/lib/java/jdk1.7.0_80

export HBASE_MANAGES_ZK=true  #告诉HBase使用它自己的zookeeper实例,分布式模式下需要设置为false

4.   修改HBASE_HOME/conf目录下hbase-site.xml文件

<configuration>
        <property>
         <name>hbase.rootdir</name>
         <value>hdfs://localhost:9000/hbase</value>
        </property>
        <property>
         <name>hbase.cluster.distributed</name>
          <value>true</value>
        </property>
        <property>
         <name>hbase.zookeeper.quorum</name>
          <value>localhost</value>
        </property>
        <property>
          <name>dfs.replication</name>
          <value>1</value>
        </property>
</configuration>

5.     启动

HBase是建立在HadoopHDFS之上的,因此在启动HBase之前要确保已经启动了Hadoop

在HBASE_HOME/bin目录下执行命令:start-hbase.sh

用命令:jps 检验会发现多了三个java进程:HMaster、HRegionServer以及HQuorumPeer。

也可以通过Web接口访问:http://localhost:60010

三、完全分布式安装

本次是基于上面伪分布式模式的基础上进行完全分布式安装的。

1. 修改HBASE_HOME/conf/hbase-env.sh文件

修改:exportHBASE_MANAGES_ZK=false  #不使用HBase自带的zookeeper实例

2. 修改HBASE_HOME/conf/ regionservers文件

将原来的内容修改如下图,其中Slave1,Slave2是我的两个从节点

3.修改HBASE_HOME/conf/hbase-site.xml文件

<configuration>
        <property>
         <name>hbase.rootdir</name>
         <value>hdfs://Master:9000/hbase</value>
        </property>
        <property>
         <name>hbase.cluster.distributed</name>
          <value>true</value>
        </property>
        <property>
          <name>hbase.zookeeper.quorum</name>
         <value>Master,Slave1,Slave2</value>
        </property>
        <property>
         <name>dfs.replication</name>
          <value>1</value>
        </property>
</configuration>

4.在其他两个从节点上做同样配置,可使用scp命令

5.启动

注意先后顺序:先启动Hadoop,再启动ZooKeeper,再启动Hbase

关闭顺序:HbaseàZooKeepeàHadoop

HBase启动命令:start-hbase.sh

HBase关闭命令:stop-hbase.sh

通过Web访问Hbase接口:Master:60010

6.  使用

在HBASE_HOME/bin 目录下执行命令:hbaseshell 可以进入HBase的shell窗口

时间: 2024-12-15 01:42:59

Hbase安装详解的相关文章

Mac下安装HBase及详解

Mac下安装HBase及详解 1. 千篇一律的HBase简介 HBase是Hadoop的数据库, 而Hive数据库的管理工具, HBase具有分布式, 可扩展及面向列存储的特点(基于谷歌BigTable). HBase可以使用本地文件系统和HDFS文件存储系统, 存储的是松散的数据(key-value的映射关系). HBase位于HDFS的上层, 向下提供存储, 向上提供运算 2. HBase安装 HBase有单机, 伪分布式, 全分布式运行模式 依赖: 匹配HBase的Hadoop版本 Jav

Phoenix和SQuirrel安装详解

Phoenix安装详解 描述 现有hbase的查询工具有很多如:Hive,Tez,Impala,Shark/Spark,Phoenix等.今天的主角是Phoenix. phoenix,中文译为“凤凰”,很美的名字.Phoenix是由saleforce.com开源的一个项目,后又捐给了Apache基金会.它相当于一个Java中间件,提供jdbc连接,操作hbase数据表. 但是在生产环境中,不可以用在OLTP中.在线事务处理的环境中,需要低延迟,而Phoenix在查询HBase时,虽然做了一些优化

Cloudera impala简介及安装详解

一.Impala简介 Cloudera Impala对你存储在Apache Hadoop在HDFS,HBase的数据提供直接查询互动的SQL.除了像Hive使用相同的统一存储平台,Impala也使用相同的元数据,SQL语法(Hive SQL),ODBC驱动程序和用户界面(Hue Beeswax).Impala还提供了一个熟悉的面向批量或实时查询和统一平台. 二.Impala安装 1.安装要求 (1)软件要求 Red Hat Enterprise Linux (RHEL)/CentOS 6.2 (

httpd 安装详解(待更新)

httpd 安装详解 安装httpd: rpm包:CentOS发行版中直接提供 编译安装:定制新功能,或其它原因 安装方式: yum install httpd CentOS 6:httpd-2.2 程序环境: 配置文件: /etc/httpd/conf/httpd.conf/httpd /etc/httpd/conf.d/*.conf 服务脚本: /etc/rc.d/init.d/httpd 脚本配置文件:/etc/sysconfig/httpd 主程序文件: /usr/sbin/httpd

Gentoo Linux安装详解--根据官方WiKi整理

1. 前期准备 远程登录: 开启ssh服务: /etc/init.d/sshd start 设置密码: passwd 以便使用putty.ssh client远程登录上传stage等(有时在线下载很慢,而局域网上传很快) 准备磁盘: 分区: fdisk /dev/sda /dev/sda1 : /boot 100M(32-100M) 设启动笔记-a/dev/sda2 : / 20G/dev/sda3 : /home 20G/dev/sda5 : /swap 1G (内存< 512 MB,分区分配

HBase RegionServer详解(未完)

HBase RegionServer详解 RegionServer组件介绍 RegionServer是HBase集群运行在每个工作节点上的服务.它是整个HBase系统的关键所在,一方面它维护了Region的状态,提供了对于Region的管理和服务:另一方面,它与Master交互,参与Master的分布式协调管理. MemStoreFlusher MemStoreFlusher主要功能是将MemStore刷新到文件中,当满足一下条件时会出发MemStore执行flush操作,最小的flush单元是

Linux下ORACLE客户端安装详解

1.首先去oracle官网下载以下安装包(http://www.oracle.com/technetwork/topics/linuxsoft-082809.html) instantclient-basic-linux.x64-11.2.0.3.0.zip instantclient-odbc-linux-11.2.0.3.0.zip instantclient-sdk-linux.x64-11.2.0.3.0.zip instantclient-sqlplus-linux.x64-11.2.

Windows下caffe安装详解(仅CPU)

本文大多转载自 http://blog.csdn.net/guoyk1990/article/details/52909864,加入部分自己实战心得. 1.环境:windows 7\VS2013 2.caffe-windows准备 (1)下载官方caffe-windows并解压,将 .\windows\CommonSettings.props.example备份,并改名为CommonSettings.props.如图4所示: 图 4:修改后的CommonSettings.props文件 附带说明

MySQL安装详解

MySQL安装详解 [下载地址:http://dev.mysql.com/downloads/] 参考文献:http://dev.mysql.com/doc/refman/5.1/zh/installing.html 步骤1:选择安装类型 有3种安装类型:Typical(典型安装).Complete(完全安装)和Custom(定制安装). Typical(典型安装)安装只安装MySQL服务器.mysql命令行客户端和命令行实用程序.命令行客户端和实用程序包括mysqldump.myisamchk