压缩软件Snappy的安装

1、下载源码,通过编译源码安装

  tar -zxvf  /home/zfll/soft/snappy-1.1.2.tar.gz

cd snappy-1.1.2

  ./configure

make

 sudo make install(输入root的密码)
2、安装hadoop-snappy包

解压 unzip /home/zfll/soft/hadoop-snappy-master.zip

编译 cd hadoop-snappy-master/

mvn clean package -Dmaven.test.skip=true

编译后把本地库文件和jar包(编译后可能已经打在一个压缩包里,需要先解压)拷贝到相应的目录

cd /home/zfll/hadoop-snappy-master/target

tar -zxvf hadoop-snappy-0.0.1-SNAPSHOT.tar.gz

cp -r hadoop-snappy-0.0.1-SNAPSHOT/lib/* $HADOOP_HOME/lib

cp hadoop-snappy-0.0.1-SNAPSHOT.jar $HADOOP_HOME/lib
Snappy 0.0.1-SNAPSHOT/目录包含本地库和hadoop-snappy-0.0.1-SNAPSHOT.jar包,都需要拷贝到相应的目录。

3、配置hadoop-env.sh 添加:

cd  /home/zfll/hadoop/etc/hadoop

vi  hadoop-env.sh

   export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$HADOOP_HOME/lib/native/Linux-amd64-64/:/usr/local/lib/

4、配置mapred-site.xml 增加

cd  /home/zfll/hadoop/etc/hadoop

vi mapred-site.xml

<property>
      <name>mapred.compress.map.output</name>
      <value>true</value>
 </property>
 <property>
       <name>mapred.map.output.compression.codec</name>
       <value>org.apache.hadoop.io.compress.SnappyCodec</value>
  </property>

vi  core-site.xml

<property>
        <name>io.compression.codecs</name>
        <value>org.apache.hadoop.io.compress.GzipCodec,org.apache.hadoop.io.compress.DefaultCodec,org.apache.hadoop.io.compress.BZip2Codec,org.apache.hadoop.io.compress.SnappyCodec</value>
</property>   

注意以上文件,每个节点都要修改增加

6、Hbase配置Snappy

1)、cd /home/zfll/hbase/lib

mkdir -p native/Linux-amd64-64

cp -r $HADOOP_HOME/lib/native/Linux-amd64-64/*   $HBASE_HOME/lib/native/Linux-amd64-64/

2)、配置hbase环境变量

cd  /home/zfll/hbase/conf

vi  hbase-env.sh

   export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$HADOOP_HOME/lib/native/Linux-amd64-64/:/usr/local/lib/

  export HBASE_LIBRARY_PATH=$HBASE_LIBRARY_PATH :$HBASE_HOME/lib/native/Linux-amd64-64/:/usr/local/lib/

vi hbase-site.xml 保证启动以snappy方式启动

<property>
      <name>hbase.regionserver.codecs</name>
      <value>snappy</value>
 </property>

3)、重启hadoop和hbase

server1-hadoop-namenode-01上stop-dfs.sh stop-yarn.sh

stop-hbase.sh

start-dfs.sh start-yarn.sh

hbase-daemon.sh start master

server2-hadoop-namenode-02上启动备用进程:

yarn-daemon.sh stop resourcemanager

yarn-daemon.sh start resourcemanager

hbase-daemon.sh start master

在安装hbase接点上分别启动hbase的regionserver

hbase-daemon.sh start regionserver

4)、验证Hbase配置是否成功(在server1-hadoop-namenode-01上操作)

接下来创建并操作Snappy压缩格式的表

1、hbase shell

2、create ‘tsnappy‘, { NAME => ‘f‘, COMPRESSION => ‘snappy‘}

3、describe ‘tsnappy‘

4、put ‘tsnappy‘, ‘row1‘, ‘f:col1‘, ‘value‘

5、scan ‘tsnappy‘

时间: 2024-08-24 21:15:58

压缩软件Snappy的安装的相关文章

德国精品软件推荐 &nbsp; 压缩软件 WINRAR 个人版终于免费了。

以下为WinRAR 致用户的一封信 (宣布个人免费版) 我们很荣幸地宣布,经过15年多的时间,现在终于向中国的个人用户提供一款完全免费的 WinRAR 简体中文版了.这是因为 WinRAR 的全球独家发行商 win.rar GmbH 和 www.winrar.com.cn 希望藉此来感谢数亿中国用户长久以来对 WinRAR的信任. 许多公司曾试图复制类似 WinRAR的产品,但是我们的用户始终相信我们并坚持使用原版软件,即使这意味着不得不在同一台计算机上运行两种压缩工具.随着全新的 WinRAR

压缩软件命令行

前言 说到压缩文件,我们可以通过编程的方式来写压缩代码,但是考虑到时间问题,我们可以调用压缩软件提供的命令行功能,快速实现某些功能的自动化. 以国产压缩软件 好压 为例 好压命令行帮助:http://haozip.2345.com/help/help11-1.htm Win10步骤 (说明:家里电脑系统是windows 10 x64企业版,无法通过配置环境变量的方式来直接调用HaoZipC,所以通过此方法) 创建一个bat文件,输入如下内容:说明:这个bat是把xx_xx目录下所有文件压缩到xx

RAMPS1.4 3D打印控制板:软件下载\连接\安装\测试

RAMPS1.4 3D打印控制板:软件下载\连接\安装\测试 特别说明: 电源接反,电机驱动板接反将有可能烧毁芯片和电路,请再三确认后再进行通电. 如何使用: 1.需要用到的模块或器件: Arduino Mega2560 主控板(该套件包含):这是3d打印机的大脑,负责控制整个打印机来完成特定的动作,如打印特定的文件等: RAMPS1.4 (该套件包含):这是上面主控板的拓展板,有它是为了更好的与其它硬件进行连接和控制的,起到过渡桥梁的作用: A4988步进电机驱动板(该套件包含):这是用来连接

电脑小白学习第六课---打包压缩软件WINRAR

有时为了便于通过网络传输文件,或者为了节省存储空间,我们可以使用压缩软件进行压缩打包操作.压缩软件有很多.比较常用的是winrar.7zip.好压等.我们以winrar为例介绍一下.首先下载安装winrar.下载后,双击安装包,开始安装.直接确定,完成安装.下面对需要压缩打包的文件或文件夹操作.1.压缩打包选中需要处理的文件或文件夹,在选中的上面右击选择"添加到"temp.rar"",这里的temp是上一层目录的文件夹名称.生成压缩文件,如下图所示.如果想对打包压缩

360压缩|360压缩软件下载

每次下个压缩文件.都会弹出一个对话框..然后**一大堆..然后就叫我安装360压缩,他喵的还没有取消,只有确定.点完确定还不能退出.一下就给你装好,还是C盘.每次都得去卸载.360杀毒我是用惯了,可是我真心不想用360压缩啊..360压缩下载链接360压缩软件是360公司的一个免费的压缩软件.在压缩的速度是绝对是比快winrar.7-zip,要快的.而且360可以支持压缩24种总格式,最厉害的是360压缩软件内置云安全引擎,可以直接在压缩文件中是否有没有病毒可以让你的电脑变的更加安全.360压缩

Linux软件管理 - 编译安装

Linux软件管理 - 编译安装 文本关键字:Linux.软件管理.configure.make.make install 一.环境准备 很多软件下载之后是一个源码包,是不能够直接运行的,需要先进行编译安装,生成可执行程序.在进行编译时,需要先使用yum安装编译工具. 1. 核心组件 必须要安装的就是gcc(GNU Compiler Collection)GNU编译器套件,其中包含了C.C++.Objective-C.Fortran.Java.Ada.Go语言前端,也包含了对应语言的库,几乎可以

Python多版本管理软件pyenv的安装应用及pip的使用讲解

近期Comyn老师的Python视频推出之后,大家一直在讨论者pyenv这个软件的应用问题,简单写一篇基本用法,给大家做下简单介绍: 目录: 一.pyenv介绍 二.centos6.4上安装配置pyenv 三.使用pyenv安装python 四.pyenv的基本应用 五.pip安装与配置 六.使用pip安装python相关软件 一.pyenv介绍 项目地址:https://github.com/yyuu/pyenv 关于pyenv的介绍: 一般在操作系统中我们会安装多个Python版本,在*ni

防止ddos攻击软件DDoS-Deflate 的安装和使用

                 防止ddos攻击软件DDoS-Deflate 的安装和使用 系统环境:Centos 6.5 X64 测试完成日期为2017.6.14 by evan.li 1.安装 DDoS deflate [[email protected] ]# wget http://www.inetbase.com/scripts/ddos/install.sh [[email protected] ]# chmod 0700 install.sh [[email protected]

批处理实现软件静默批量安装

参考:以下链接不分先后 http://www.cnblogs.com/toor/p/4198061.html http://www.autoitx.com/viewthread.php?tid=31956&extra=&page=1 http://m.blog.csdn.net/article/details?id=8348301 http://wangpai.2345.cn/thread.php?fid=12&pid=3830327 https://www.idiannaomi.