机器环境
Ubuntu 14.10 64位 || OpenJDK-7 || Scala-2.10.4
机群概况
Hadoop-2.6.0 || HBase-1.0.0 || Spark-1.2.0 || Zookeeper-3.4.6 || hue-3.8.1
Hue简介(摘自网络):
ue是一个开源的Apache Hadoop UI系统,最早是由Cloudera Desktop演化而来,由Cloudera贡献给开源社区,它是基于Python Web框架Django实现的。通过使用Hue我们可以在浏览器端的Web控制台上与Hadoop集群进行交互来分析处理数据,例如操作HDFS上的数据,运行MapReduce Job等等。很早以前就听说过Hue的便利与强大,一直没能亲自尝试使用,下面先通过官网给出的特性,通过翻译原文简单了解一下Hue所支持的功能特性集合:
- 默认基于轻量级sqlite数据库管理会话数据,用户认证和授权,可以自定义为MySQL、Postgresql,以及Oracle
- 基于文件浏览器(File Browser)访问HDFS
- 基于Hive编辑器来开发和运行Hive查询
- 支持基于Solr进行搜索的应用,并提供可视化的数据视图,以及仪表板(Dashboard)
- 支持基于Impala的应用进行交互式查询
- 支持Spark编辑器和仪表板(Dashboard)
- 支持Pig编辑器,并能够提交脚本任务
- 支持Oozie编辑器,可以通过仪表板提交和监控Workflow、Coordinator和Bundle
- 支持HBase浏览器,能够可视化数据、查询数据、修改HBase表
- 支持Metastore浏览器,可以访问Hive的元数据,以及HCatalog
- 支持Job浏览器,能够访问MapReduce Job(MR1/MR2-YARN)
- 支持Job设计器,能够创建MapReduce/Streaming/Java Job
- 支持Sqoop 2编辑器和仪表板(Dashboard)
- 支持ZooKeeper浏览器和编辑器
- 支持MySql、PostGresql、Sqlite和Oracle数据库查询编辑器
1 Hue安装(参考:http://gethue.com/how-to-build-hue-on-ubuntu-14-04-trusty/)
1.1 在gi上下载HUE源码(如果已经安装git可省率第一步)
sudo apt-get install git git clone https://github.com/cloudera/hue.git
1.2 需要安装一些依赖的软件包,官网给出了一些,如果环境不一样,灵活调整,GIT上面给出的依赖文件列表:https://github.com/cloudera/hue | Development Prerequisites
apt-get install python2.7-dev \ make \ libkrb5-dev \ libxml2-dev \ libxslt-dev \ libsqlite3-dev \ libssl-dev \ libldap2-dev \ python-pip
1.3 因为需要用maven编译,所以需要安装maven,最好是去官网下载maven安装包
1.4 编译Hue
make apps
说明:我在编译的时候出现了两种错误,一是找不到某些文件,这种情况下,需要检查一下是否是少了某一依赖没有安装;二是下载jar包失败,这种情况下,重新make apps,多试几次,在经历了两三天的折腾下,终于编译好了,同时http://gethue.com/how-to-build-hue-on-ubuntu-14-04-trusty/这里面有些回帖,可能问题就和你的一样,我的一个问题就是在别人大帖子中找到的答案。
1.5 启动HUE服务,启动之后能进入http://127.0.0.1:8000/ 就说明安装好了,后面还需要进行很多配置。
./build/env/bin/hue runserver
参考:
http://gethue.com/
https://github.com/cloudera/hue
http://ju.outofmemory.cn/entry/105162
http://itindex.net/detail/52831-hue
http://www.tuicool.com/articles/zIrqemB
http://blog.csdn.net/nsrainbow/article/details/43677077
http://www.cloudera.com/content/cloudera/en/documentation/core/latest/topics/cdh_ig_hue_config.html