Ubuntu16下Hive 安装

0.安装环境和版本

Ubuntu16,hadoop版本是2.7.2 ,选择Hive版本为  hive-2.1.17

1. Hive安装包下载

地址: https://mirrors.tuna.tsinghua.edu.cn/apache/hive/

2.上传到服务器后解压

sudo mv apache-hive-2.1.1-bin.tar.gz /usr/local

sudo tar zxvf apache-hive-2.1.1-bin.tar.gz

sudo mv apache-hive-2.1.1-bin  hive

sudo chown –R hadoop:hadoop hive

3.配置

sudo vi /etc/profile.d/hadoop.sh

添加以下内容:

#For Hive

export HIVE_HOME=/usr/local/hive

export HIVE_CONF_DIR=$HIVE_HOME/conf

export CLASSPATH=$CLASSPATH:$HIVE_HOME/lib

export PATH=$PATH:$HIVE_HOME/bin

保存后使用命令:source /etc/profile使环境变量立即生效

4.下载并设置好jdbc connector

从此处下载:https://dev.mysql.com/downloads/connector/j/

记住,将解压出来的jar放入hive 的lib中

sudo cp mysql-connector-java-5.1.42-bin.jar $HIVE_HOME/lib/

ln -s /usr/share/java/mysql-connector-java-5.1.42-bin.jar $HIVE_HOME/lib/mysql-connector-java-5.1.42-bin.jar

5. 配置MySQL作为Hive的元数据存储库

如果没有安装好MySQL,先在服务器装好MySQL。

1) 创建hive数据库和用户

GRANT all privileges on *.* TO ‘hive‘ identified by ‘[email protected]‘;

create database hive;

flush privileges;  

6. 配置hive-site.xml文件

1) 配置hive-site.xml文件

cd $HIVE_HOME/conf

cp hive-default.xml.template hive-site.xml

修改:

<name>hive.metastore.schema.verification</name>

<value>true</value>

改为

<name>hive.metastore.schema.verification</name>

    <value>false</value>

设置HIVE元数据库连接信息:

<property>  

   <name>javax.jdo.option.ConnectionURL</name>  

   <value>jdbc:mysql://master:3306/hive?createDatabaseIfNotExist=true</value>  

   <description>JDBC connect string for a JDBC metastore</description>  

</property>  

<property>  

  <name>javax.jdo.option.ConnectionDriverName</name>  

  <value>com.mysql.jdbc.Driver</value>  

  <description>Driver class name for a JDBC metastore</description>  

</property>  

<property>  

  <name>javax.jdo.option.ConnectionUserName</name>  

  <value>hive</value>  

  <description>username to use against metastore database</description>  

</property>  

<property>  

  <name>javax.jdo.option.ConnectionPassword</name>  

  <value>hive</value>  

  <description>password to use against metastore database</description>  

</property>  

6.初始化数据库

在使用hive或者hive --service cli来运行之前需要初始化数据库,如果在初始化之前已经运行了上述命令并且失败,则需要删除产生的metastore_db文件

使用命令schematool -initSchema -dbType mysql初始化mysql数据库

出现以下几行说明初始化成功:

7.启动Hive服务

启动hive常用的两个服务

# 使用这个服务,可以让metastore作为一个单独的(远程)进程运行

nohup hive --service metastore 2>&1 >> /var/log.log &

# 让Hive以提供Trift服务的服务器形式运行,允许用不同语言编写的客户端进行访问

nohup hive  -–service hiveserver2  2>&1 >> /var/log.log &

8. 复制hive到其他从节点

将hive文件夹scp到其他从节点中,这样在其他服务器上也能访问hive

9.报错解决

1) 异常信息:

异常信息:

Exception in thread "main" Java.lang.RuntimeException: java.lang.IllegalArgumentException: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D

at org.apache.Hadoop.hive.ql.session.SessionState.start(SessionState.java:444)

解决:

查看hive-site.xml配置,会看到配置值含有"system:java.io.tmpdir"的配置项

2.新建文件夹在hive目录下新建一个tmp目录

3. ${system:java.io.tmpdir}/${system:user.name} 这两个一起替换为 /usr/local/hive/tmp 路径,有两个地方要替换

原文地址:https://www.cnblogs.com/zjc10203/p/9064778.html

时间: 2024-10-09 23:25:30

Ubuntu16下Hive 安装的相关文章

ubuntu16.04下hive安装与配置

下载 wget http://mirrors.hust.edu.cn/apache/hive/hive-2.3.2/apache-hive-2.3.2-bin.tar.gz 解压到指定目录 tar -zxvf .. 配置HIVE_HOME vim /etc/profile export HIVE_HOME=/usr/local/hive export PATH=$PATH:$HIVE_HOME/bin 修改HIVE/CONF的文件配置 cp hive-env.sh.template hive-e

Ubuntu16下Hadoop安装

1. 安装Ubuntu 2. 新装Ubuntu常用软件安装和系统设置 (1) 安装vim yum install vim (2) 更改hostname为hadoop_master sudo vim /etc/hostname (3) 关闭防火墙 sudo ufw disable (4) 安装rz sz用于服务器文件与本地文件交互 apt-get install lrzsz (5) 安装 vm tools (6) 将 tar.gz 包复制到其他目录,解压后, 3. JAVA 环境安装配置 1 Ja

DigitalOcean 推荐的ubuntu16下LAMP安装过程

LAMP安装过程: How To Install Linux, Apache, MySQL, PHP (LAMP) stack on Ubuntu 16.04 安装 PHPMyAdmin过程: 如何在Ubuntu 16.04上安装和安装phpMyAdmin

Ubuntu16下apache2安装ssl阿里云证书

1.用下面的命令确保ssl模块已经加载进apache: a2enmod ssl 如果你看到了"Module ssl already enabled"这样的信息就说明你成功了,如果你看到了"Enabling module ssl",那么你还需要用下面的命令重启apache: service apache2 restart 最后像下面这样修改你的虚拟主机文件(通常在/etc/apache2/sites-enabled 下):#注意是sites-enabled文件夹下 D

Hive安装-windows(转载)

1.安装hadoop 2.从maven中下载mysql-connector-java-5.1.26-bin.jar(或其他jar版本)放在hive目录下的lib文件夹 3.配置hive环境变量,HIVE_HOME=F:\hadoop\apache-hive-2.1.1-bin 4.hive配置 hive的配置文件放在$HIVE_HOME/conf下,里面有4个默认的配置文件模板 hive-default.xml.template                           默认模板 hi

2、Hive安装详细教程

VX:数据科学讲堂 领取教程 1.准备hive安装包 自行按照1.1教程提示下载hive的安装包 1.1 下载hive 下载地址 打开下载地址后,如下图点击apache-hive-1.2.2-bin.tar.gz 下载 1.2 上传hvie安装包 基于我们之前的环境安装情况已经可以了解到我们已经在node1上部署了namenode,resourcemanager,secondarynamenode等比较重要的进程:node3上呢我们已经安装了centos的桌面和idea,这两个主要的进程消耗的系

VMware下Ubuntu16.04的安装、可能出现的问题的解决办法及基本配置

安装VMware 1.下载VMware Workstation Pro 12.1.0 for Windows,安装. 2.VMware永久证书秘钥:5A02H-AU243-TZJ49-GTC7K-3C61N 添加新磁盘分区 1.磁盘管理 -> 选择剩余空间较大的磁盘(D) -> 压缩卷(40960M ≈ 39.9G,最好大于20G) 2.新建简单卷 -> 更改盘符(E, up2u)和名称(Ubuntu,up2u) 创建虚拟机 1.创建虚拟机 -> 自定义(高级) 2.稍后安装操作系

【原】Centos6.5下cdh4.6 hive安装部署

1.前提条件: 只需要选择一台服务器即可,这里选择安装在namenode上:安装用户为cloud-user 2.安装包: sudo yum install -y hive hive-metastore hive-server2 3.安装mysql: sudo yum install -y mysql-server sudo service mysqld start sudo yum install -y mysql-connector-java sudo ln -s /usr/share/jav

Hive 系列(二)—— Linux 环境下 Hive 的安装部署

一.安装Hive 1.1 下载并解压 下载所需版本的 Hive,这里我下载版本为 cdh5.15.2.下载地址:http://archive.cloudera.com/cdh5/cdh/5/ # 下载后进行解压 tar -zxvf hive-1.1.0-cdh5.15.2.tar.gz 1.2 配置环境变量 # vim /etc/profile 添加环境变量: export HIVE_HOME=/usr/app/hive-1.1.0-cdh5.15.2 export PATH=$HIVE_HOM