Hadoop安装(Ubuntu Kylin 14.04)

安装环境:ubuntu kylin 14.04   haoop-1.2.1   hadoop下载地址:http://apache.mesi.com.ar/hadoop/common/hadoop-1.2.1/

1.安装JDK,这里要注意的是:要想在hadoop中使用,则需要在hadoop下输入命令:source  /etc/profile 来实现,然后用java -version 测试看看是否生效了。

2.创建hadoop用户和用户组(切换到root)

创建hadoop用户组   sudo addgroup hadoop

创建hadoop用户      sudo adduser -ingroup hadoop hadoop

给hadoop用户添加权限,打开/etc/sudoers文件;      sudo vim /etc/sudoers

按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。

在root   ALL=(ALL:ALL)   ALL下添加hadoop   ALL=(ALL:ALL)  ALL,   即:hadoop  ALL=(ALL:ALL) ALL  这样就可以使用sudo了。

3.安装SSH  ssh可以实现远程登录和管理。

安装openssh-server      sudo apt-get install ssh openssh-server  

注:ubuntu安装openssh-server 报依赖错误的解决过程

    服务启动:sudo /etc/init.d/ssh start

    查看服务启动是否正确:ps -e | grep ssh     

ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

创建ssh-key(切换到hadoop),这里我们采用rsa方式; ssh-keygen -t rsa -P "" 回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的

进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;

 注:这里可能会出现一个问题就是授权后,并没有实现无密码登录:那是因为authorized_keys 的权限必须改为600,authorized_keys 在./hadoop/.ssh/下

cd ~/.ssh

    cat id_rsa.pub >> authorized_keys

登录:ssh localhost 

退出:exit

  这样就可以实现无密码登录了。

4、解压hadoop源码包

终端下进入hadoop源码包所在目录,使用复制命令把hadoop源码包复制到/home/hadoop下

1 cp hadoop-1.2.1.tar.gz /home/hadoop

然后解压,命令行如下

tar -xzvf *.tar.gz

5、配置hadoop的hadoop/conf下的hadoop-env.sh,core-site.xml,mapred-site.xml,hdfs-site.xml

配置hadoop-1.2.1/conf/hadoop-env.sh,命令行:

1 vim /home/hadoop/hadoop-1.2.1/conf/hadoop-env.sh

找到JAVA_HOME

把前面的#去掉,加上本系统jdk路径,保存退出

配置hadoop-1.2.1/conf/core-site.xml,命令行:

gedit /home/hadoop/hadoop-1.2.1/conf/core-site.xml

在hadoop新建hadoop_tmp目录,原因是http://blog.csdn.net/bychjzh/article/details/7830508

将如下<configuration> </configuration>之间的添加进入,保存退出

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file. -->

<configuration>
        <property>
            <name>fs.default.name</name>
            <value>hdfs://localhost:9000</value>
        </property>
    <property>
          <name>hadoop.tmp.dir</name>
          <value>/home/hadoop/hadoop-1.2.1/hadoop_tmp</value>
         <description>A base for other temporary directories.</description>
    </property>

</configuration>

配置hadoop-1.2.1/conf/mapre-site.xml,命令行:

1 vim /home/hadoop/hadoop-1.2.1/conf/mapre-site.xml

将如下<configuration> </configuration>之间的添加进入,保存退出

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file. -->

<configuration>
    <property>
        <name>mapred.job.tracker</name>
        <value>localhost:9001</value>
    </property>
</configuration>

配置hadoop-1.2.1/conf/hdfs-site.xml,命令行:

1 vim /home/hadoop/hadoop-1.2.1/conf/hdfs-site.xml

将如下<configuration> </configuration>之间的添加进入,保存退出

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file. -->

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>

</configuration>

至此hadoop的安装配置已经完毕,稍后的是hadoop的初次运行操作

6、格式化hdfs文件系统

进入hadoop-1.2.1

./bin/hadoop namenode -format

当你看到下图时

恭喜你,hdsf文件系统格式化成功

7、启动hadoop服务

./bin/start-all.sh

出现如下画面

jps

jps是查看java虚拟机运行的java线程

然后出现如下画面

不计jps,有五个hadoop相关线程,恭喜你,hadoop安装配置成功,运行正常。

然后可以退出hadoop。,以后再用时再启动,导入数据

./bin/stop-all.sh 注:用户不在sudoers文件中的解决方法 
时间: 2024-08-03 11:21:14

Hadoop安装(Ubuntu Kylin 14.04)的相关文章

ubuntu kylin 14.04安装配置redis-2.8.9(转)

1.下载安装文件加压.编译和安装 cd /tmpwget http://download.redis.io/releases/redis-2.8.9.tar.gztar -zxf redis-2.8.9.tar.gzcd redis-2.8.9makesudo make install 这时Redis 的可执行文件被放到了/usr/local/bin 2.下载配置文件和init启动脚本:wget https://github.com/ijonas/dotfiles/raw/master/etc/

Ubuntu Kylin 14.04 安装配置 jdk、eclipse、tomcat 通用

一.安装jdk 1)首先去sun官网下载jdk http://www.oracle.com/technetwork/java/javase/downloads/index.html 注意下载的是tar.gz结尾的文件,例如:jdk-7u21-linux-i586.tar.gz 2)下载之后,打开终端使用命令进行解压: sudo tar -zxvf jdk-7u21-linux-i586.tar.gz 回车后需要输入登陆密码,注意输入的密码是看不到的,你输入后回车就行 我下载的jdk是:jdk-7

ubuntu kylin 14.04安装配置MongoDB v2.6.1(转)

1.获取最新版本 https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-2.6.1.tgz 2.解压并进入bin目录 tar zxvf mongodb-linux-x86_64-2.6.1.tgz cd /opt/database/mongodb-linux-x86_64-2.6.1/bin 3.运行前创建mongodb需要的存放数据和日志的目录: sudo mkdir -p /data/db/ sudo chmod -R 777 /data

u盘安装ubuntu server 14.04 以及No CD-ROM drive was detected 错误

u盘安装ubuntu server 14.04 1:下载ubuntu server14的 iso镜像文件 2:下载 UltraISO U盘镜像制作工具 : 3:使用Ultra iOS 将下载好的 iso系统镜像文件写入U盘: 写入方式:http://jingyan.baidu.com/article/59703552e0a6e18fc007409f.html 4:写入成功之后,将iOS 镜像 拷贝到 u盘根目录下一份 5:利用U盘启动电脑并开始安装: 6:此时遇到错误:未探测到安装光盘,导致安装

Win7上安装Ubuntu 麒麟14.04双系统简要步骤

1,官网下载iso文件 2,安装Deamon Tool Lite虚拟光驱.加载iso文件 3,自动运行该光驱,设置安装在哪个盘,以及系统大小 4,默认安装,前提是需要联网,否则可能安装不成功 5,安装完成,出现双系统菜单,选择Ubuntu,可能出现为/检查磁盘时发生严重错误的提示 6,网上搜索解决方法,只需要吧启动配置文件的ro修改为rw即可启动,进入系统后,再次修改文件,使之永久修改 7,成功安装完成 Win7上安装Ubuntu 麒麟14.04双系统简要步骤

Ubuntu Kylin 14.04安装

早听说Ubuntu Kylin对中国本地做了很多定制的工作,想搜狗输入法.WPS,还有中国日历等.昨天没事就下载了一个Kylin试用了下,使用的方法还是使用EasyBCD软件做了个硬盘安装启动,关于EasyBCD的使用网上一搜一大把,多的是,主要步骤就是配置新建的bootloader:将 title Install Ubunturoot (hd0,0)kernel (hd0,0)/vmlinuz boot=casper iso-scan/filename=/ubuntu-11.10-i386.i

[原创]安装Ubuntu Server 14.04后

安装后许多软件都没有,需要进行安装. 官方指南:https://help.ubuntu.com/lts/serverguide/index.html 1.修改网络配置文件 用ifconfig查看本地网卡,获得网卡名称 p2p1,如果只有lo,则执行 dmesg | grep eth. 修改/etc/network/interfaces文件,这个配置更新过,加入了dns的配置 sudo vim /etc/network/interfaces iface eth0 inet static addre

vmware 10虚拟机安装ubuntu server 14.04

-开始安装ubuntu server- 1.首先是安装系统时的语言,推荐选择English 然后安装系统 这里选择语言很重要,我开始选择了中文,安装完成后会乱码,所以推荐选择英文 因为在中国,所以选择了香港 这个步骤是检测键盘,选择yes或no都是可以的,选择yes会有一些让你按键的操作来检测键盘,选择no可以在列表里选择键盘布局.我这里选择了no 在列表中选择键盘布局即可 选择完成之后会加载一些额外的部件,都是自动进行的 2.设置主机名,创建新账户 因为设置的密码比较简单,它会询问是否使用弱密

Dell R410 安装Ubuntu server 14.04

最近安装出现一个问题,在Dell R410上安装Ubuntu server,总是安装不成功.提示无法找到驱动程序,无论是新作raid还是去掉raid用磁盘做,始终无法安装.