ubuntu 14.04 hadoop eclipse 0配置基本环境

动人的hadoop第二天。构造hadoop该环境还花了两天时间,在这里写自己配置的过程,我希望能帮助!

我将文中用到的全部资源都分享到了  这里,点开就能下载,不须要一个个的找啦!

当中有《Hadoop 技术内幕》这本书。第一章讲述了这个配置过程,可是不具体~

---------------安装jdk-------------------------------

1.

下载jdk1.6.0_45

2.解压到opt目录下,配置/etc/profile。在文件尾部加上

#set java environment

JAVA_HOME=/opt/jdk1.6.0_45

export JRE_HOME=/opt/jdk1.6.0_45/jre

export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH

export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

3.然后用source /etc/profile来又一次运行刚改动的初始化文件(profile)

4.配置默认程序

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/java 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/javac 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/jar 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/javah 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/javap 300

然后运行下面代码选择我安装到jdk版本号:

update-alternatives --config java

5.之后就能够用java -version来查看java的版本号了

---------------安装eclipse-------------------------------

1.从官网下载java版到eclipse

http://mirror.neu.edu.cn/eclipse/technology/epp/downloads/release/kepler/SR2/eclipse-java-kepler-SR2-linux-gtk.tar.gz

2.解压到/home/simon目录下

3.用vi建立shell脚本命名为eclipse

vi /usr/local/bin/eclipse

内容例如以下:

/home/simon/eclipse/eclipse

4.为脚本eclipse加入可运行权限: chmod +x /usr/local/bin/eclipse

5.直接输入eclipse来启动它了

---------------安装ant-------------------------------

1.下载ant

http://mirror.esocc.com/apache//ant/binaries/apache-ant-1.9.4-bin.tar.gz

2.解压拷贝到/home/simon 目录下

3.改动/etc/profile 文件

export ANT_HOME=/home/simon/apache-ant-1.9.4

export PATH=$PATH$:$ANT_HOME/bin

4.然后用source /etc/profile来又一次运行刚改动

5.输入ant -version验证成功安装

Apache Ant(TM) version 1.9.4 compiled on April 29 2014

---------------安装hadoop-------------------------------

1.改动机器名称,编辑/etc/hostname 改动为localhost

2.配置ssh无password登录

ssh-keygen -t rsa

cd ~/.ssh

cat id_rsa.pub >> authorized_keys

apt-get install openssh-server

3.假设命令 ssh localhost不成功,则须要启动ssh服务

通过下面命令启动ssh服务

service ssh start

/etc/init.d/ssh start

假设还是启动失败。那就重新启动吧。管用

3.配置hadoop

(1)编辑conf/hadoop-env.sh,改动JAVA_HOME的值:

export JAVA_HOME=/opt/jdk1.6.0_45

(2)编辑conf/mapred-site.xml,加入内容:

<property>

<name>mapred.job.tracker</name>

<value>http://localhost:9001</value>

</property>

(3)编辑conf/hdfs-site.xml,加入内容:

<property>

<name>dfs.name.dir</name>

<value>/home/simon/name</value>

</property>

<property>

<name>dfs.data.dir</name>

<value>/home/simon/data</value>

</property>

<property>

<name>dfs.permissions</name>

<value>false</value>

</property>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

(4)编辑conf/core-site.xml。加入内容:

<property>

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/home/hadoop/hadoop-1.0.0/tmp</value>

</property>

(5)

格式化hdfs: bin/hadoop namenode -format

启动hadoop: bin/start-all.sh

假设显示没有权限,可能是文件无权限,或者文件到用户不是当前用户(root)

能够尝试 chmod +x 文件名称

chown root:root bin/*

-------------------配置eclipse插件---------------

1.将hadoop-eclipse-plugin-1.0.0.jar拷贝到eclipse文件夹下到plugins文件夹下

2.打开eclipse

window-showview-other... 对话框中选择MapReduce Tools - Map/Reduce Locations

假设对话框中没有。则:%eclispe_dir%/configration/config.ini文件,发现里面有一项org.eclipse.update.reconcile=false配置,改成true后又一次进入eclipse

3.在Project Explorer中就能够看到DFS Locations了,假设能够向下点开几个目录,说明配置成功

启动eclipse:

env UBUNTU_MENUPROXY= /home/simon/eclipse/eclipse启动eclipse。注意等号和eclipse路径之间有个空格

------------------执行java程序--------------------

1.配置输入输出到路径

在程序中右击--Run As--Run Configurations..--Argument

里填入

hdfs://localhost:9000/test/input hdfs://localhost:9000/test/output

中间用空格间隔,分别为输入输出到路径

2.导入hadoop中到jar包,右击项目--Properties--左边选Java Build Path--右边选Libraries--右边点击Add External JARs...

在hadoop/lib/ 这个路径中选须要到jar包。假设不知道选哪个。那就全选!~(无奈)

3.在程序中右击--Run As--Run on hadoop 执行

版权声明:本文博主原创文章,博客,未经同意不得转载。

时间: 2024-12-28 00:51:34

ubuntu 14.04 hadoop eclipse 0配置基本环境的相关文章

ubuntu 14.04 hadoop eclipse 初级环境配置

接触hadoop第二天,配置hadoop到环境也用了两天,将自己配置的过程写在这里,希望对大家有所帮助! 我将文中用到的所有资源都分享到了  这里,点开就能下载,不需要一个个的找啦! 其中有<Hadoop 技术内幕>这本书,第一章讲述了这个配置过程,但是不详细~ ---------------安装jdk------------------------------- 1. 下载jdk1.6.0_45 2.解压到opt文件夹下,配置/etc/profile,在文件尾部加上 #set java en

ubuntu 14.04 nagios4+ndoutils2.0+centreon2.5.4配置

ubuntu 14.04 nagios4+ndoutils2.0+centreon2.5.4(原创) 开发应用centreon是开源的IT监控软件,由法国人于2003年开发,最初名为Oreon,并于2005年正式更名为centreon.centreon作为nagios的分布式监控管理平台,其功能之强大,打造了centreon在IT监控方面强势地位,它的底层使用nagios监控软件,nagios通过ndoutil模块将监控数据写入数据库,centreon读取该数据并即时的展现监控信息,通过cent

NVIDIA DIGITS 学习笔记(NVIDIA DIGITS-2.0 + Ubuntu 14.04 + CUDA 7.0 + cuDNN 7.0 + Caffe 0.13.0)

转自:http://blog.csdn.net/enjoyyl/article/details/47397505?from=timeline&isappinstalled=0#10006-weixin-1-52626-6b3bffd01fdde4900130bc5a2751b6d1 NVIDIA DIGITS-2.0 + Ubuntu 14.04 + CUDA 7.0 + cuDNN 7.0 + Caffe 0.13.0环境配置 引言 DIGITS简介 DIGITS特性 资源信息 说明 DIGI

Ubuntu 14.04下NFS安装配置

Ubuntu 14.04下NFS安装配置 参考:http://www.linuxidc.com/Linux/2013-08/89154.htm 1.执行命令:sudo apt-get install nfs-kernel-server ; 2.执行命令:mkdir /home/jacobxu/nfs-jacoxu 建立一个nfs服务的专有的文件夹; 3.建立好文件夹后,接着执行命令:sudo vi /etc/exports 配置nfs; 4.在文章的最后一行添加:/home/jacobxu/nf

Ubuntu 14.04 上安装和配置 FTP 服务器 ProFTPD

proftpd的配置方式类似apache,比vsftpd更易用,xampp就集成了proftpd. apt-cache search proftpd 搜索相关包 sudo apt-get install proftpd-basic 安装 安装时默认作为一个standalone server运行proftpd,如果每天的ftp请求量少,可以安装为inetd服务,节省服务器资源. 这里我使用默认值,安装为standalone server. sudo netstat -antp|grep proft

Linux学习篇之---Ubuntu 14.04 重启后DNS配置丢失问题的解决方案

Ubuntu 14.04 重启后DNS配置丢失问题的解决方案 每次修改DNS配置文件 /etc/resolv.conf 重启后就会失效. 从网上查知,这个文件是动态创建,所以每次重启都会被重写,此文件中也有警告: 所以我们不能直接修改这个文件. 通过查资料得知两种方式: 1) vi /etc/network/interfaces dns-nameservers 8.8.8.8 2) vi /etc/resolvconf/resolv.conf.d/base nameserver 8.8.8.8

解决ubuntu 14.04 下eclipse 3.7.2 不能启动,报Could not detect registered XULRunner to use 或 org.eclipse.swt.SWTError: XPCOM 等问题的处理

对于eclipse 3.7.2在ubuntu 14.04下不能启动,需要在 eclipse/configuration 目录下的config.ini文件内增加一行org.eclipse.swt.browser.DefaultType=mozilla #This configuration file was written by: org.eclipse.equinox.internal.frameworkadmin.equinox.EquinoxFwConfigFileParser #Thu J

Ubuntu 14.04 LTS 安装和配置Bochs

系统是:Ubuntu 14.04 LTS 64位 安装的是:bochs-2.6.8 Bochs 需要在 X11 环境下运行,因此你的 Linux 系统必须已经安装了X Window 系统才能使用Bochs. 因为 Bochs 是用C++写的,所以这里要安装GNU gcc/g++编译器. 安装命令如下: sudo apt-get install build-essential sudo apt-get install xorg-dev sudo apt-get install bison sudo

UBUNTU 14.04 + VIM + YouCompleteMe 安装配置

想让你的vim具有C/CPP代码补全功能?推荐您使用YouCompleteMe工具.配置虽然稍显麻烦,但在我的一步步说明之下,您一定能够做的非常好. 首先提一下几个关键的工具以及其链接: Vundle:它是一个vim的插件管理器,非常好用,要安装YouCompleteMe首先需要安装Vundle. YouCompleteMe:代码补全工具. CMake, llvm, clang等一些安装YouCompleteMe依赖工具. 其实呢,所有的安装步骤在Vundle,以及YouCompleteMe两个