Hadoop单机模式安装-(1)安装设置虚拟环境

网络上关于如何单机模式安装Hadoop的文章很多,按照其步骤走下来多数都失败,按照其操作弯路走过了不少但终究还是把问题都解决了,所以顺便自己详细记录下完整的安装过程。

此篇主要介绍如何在Windows环境下设置虚拟机环境以及一些准备工作,熟悉WMware的朋友可以略过。

我所记录的笔记适合没有Linux基础的朋友跟我一起操作,同时欢迎高手参观指导。

环境约定

以下环境基于攥写时间:5th July 2015。

宿主机器:Windows 8

虚拟机环境:WMware Wrokstation 11

Ubuntu版本:Ubuntu Desktop 14.04.2

物理环境:

笔记本Thinkpad T420 i5 CPU 4+4=8G内存, 500G硬盘。

其它:

Java版本:7

Hadoop版本:2.7.0

接下来开始设置虚拟机环境。

安装WMware Workstation 11,如果机器里已经安装了Hyper-v需要将其删除,否则VMware会提示不兼容。

下载Ubuntu的iso镜像,这里我下载的是Desktop版本,最新的稳定版是14.04.2,直接在Ubuntu官网下载就可以。

同样也可以选择Ubuntu的Server版本,主要是Desktop下的Gedit做些配置操作比较方便,如果对vim比较熟练并且不介意纯命令界面的话就无所谓了。

下载地址:

http://www.ubuntu.com/download/desktop

下面开始安装Ubuntu虚拟机。

打开VMware,新建一个虚拟机。

使用典型配置:

选择稍后安装。某些版本直接安装的话会出现问题。

选择操作系统。

给虚拟机取一个名字,然后指定文件存储位置。尽量留20G的存储。

这里默认即可,不过我选择磁盘存储为单个文件。

点击完成退出设置。

点击新建的虚拟机,设置 CD/DVD安装介质。

选择下载的Ubuntu所在位置。

另在虚拟机网络配置界面,建议断开网络连接,避免在安装过程中自动下载补丁。

至此虚拟机环境设置完毕,下一篇会介绍如何简单的安装Ubuntu。

时间: 2024-10-13 12:34:07

Hadoop单机模式安装-(1)安装设置虚拟环境的相关文章

Hadoop单机模式安装入门(Ubuntu系统)

闲来无事,突然看到关于Hadoop集群.以前也了解过,网上找过一些关于百度,谷歌等底层hadoop集群的文档,可是面对很多陌生的技术,看不太通透.所有想自己动手虚拟机试试.经常听到这么高大上的名词,Hadoop已经成为大数据的代名词.短短几年间,Hadoop从一种边缘技术成为事实上的标准.而另一方面,MapReduce在谷歌已不再显赫.当企业瞩目MapReduce的时候,谷歌好像早已进入到了下一个时代. Hadoop支持三种启动集群模式,分别是单机模式,wei分布式模式,安全分布式模式.下面我做

Hadoop单机模式的配置与安装

Hadoop单机模式的配置与安装 版权所有 前言: 由于Hadoop属于java程序,所以,安装Hadoop之前需要先安装jdk. 对于hadoop0.20.2的单机模式安装就需要在一个节点(一台主机)上运行5个节点. 分别是: JobTracker:负责Hadoop的Job任务分发和管理. TaskTracker:负责在单个节点上执行MapReduce任务. 对于Hadoop里面的HDFS的节点又有 NameNode:主节点,负责管理文件存储的名称节点 DateNode:数据节点,负责具体的文

Hadoop单机模式安装

需要先添加用来运行Hadoop进程的用户组hadoop及用户hadoop. 1. 添加用户及用户组 创建用户hadoop $ sudo adduser hadoop 需要输入shiyanlou的密码:shiyanlou.并按照提示输入hadoop用户的密码. 2. 添加sudo权限 将hadoop用户添加进sudo用户组 $ sudo usermod -G sudo hadoop 四.安装及配置依赖的软件包 1. 安装openssh-server.java.rsync等 $ sudo apt-g

3-1.Hadoop单机模式安装

Hadoop单机模式安装 一.实验介绍 1.1 实验内容 hadoop三种安装模式介绍 hadoop单机模式安装 测试安装 1.2 实验知识点 下载解压/环境变量配置 Linux/shell 测试WordCount程序 1.3 实验环境 hadoop2.7.6 Linux CentOS6终端 1.4 适合人群 本课程难度为一般,属于初级级别课程,适合具有linux基础的用户. 1.5 相关文件 https://pan.baidu.com/s/1a_Pjl8uJ2d_-r1hbN05fWA 二.H

Hadoop:Hadoop单机伪分布式的安装和配置

http://blog.csdn.net/pipisorry/article/details/51623195 因为lz的linux系统已经安装好了很多开发环境,可能下面的步骤有遗漏. 之前是在docker中配置的hadoop单机伪分布式[Hadoop:Hadoop单机伪分布式的安装和配置 ],并且在docker只有root用户,所有没有权限问题存在. 这里直接在linux下配置,主要是为了能用netbeans ide调试hadoop程序,并且使用的用户就是开机时登录的用户pika. 本教程配置

Spark教程-构建Spark集群-配置Hadoop单机模式并运行Wordcount(1)

安装ssh Hadoop是采用ssh进行通信的,此时我们要设置密码为空,即不需要密码登陆,这样免去每次通信时都输入秘密,安装如下: 输入“Y”进行安装并等待自动安装完成. 安装ssh完成后启动服务 以下命令验证服务是否正常启动: 可以看到ssh正常启动: 设置免密码登录,生成私钥和公钥: 在/root/.ssh中生成两个文件:id_rsa和id_rsa.pub,id_rsa为私钥,id_rsa.pub为公钥,我们将公钥id_rsa.pub追加到 authorized_keys中,因为author

Hadoop单机模式安装-(2)安装Ubuntu虚拟机

网络上关于如何单机模式安装Hadoop的文章很多,按照其步骤走下来多数都失败,按照其操作弯路走过了不少但终究还是把问题都解决了,所以顺便自己详细记录下完整的安装过程. 此篇主要介绍在虚拟机设置完毕后,如何进行Ubuntu的安装. 我所记录的笔记适合没有Linux基础的朋友跟我一起操作,同时欢迎高手参观指导. 环境约定 以下环境基于攥写时间:5th July 2015. 宿主机器:Windows 8 虚拟机环境:WMware Wrokstation 11 Ubuntu版本:Ubuntu Deskt

Hadoop单机模式部署

一.Hadoop部署模式 单机模式:默认情况下运行为一个单独机器上的独立Java进程,主要用于调试环境 伪分布模式:在单个机器上模拟成分布式多节点环境,每一个Hadoop守护进程都作为一个独立的Java进程运行 完全分布式模式:真实的生产环境,搭建在完全分布式的集群环境 二.添加用户和组 $ sudo adduser hadoop                         ##创建用户hadoop $ sudo usermod -G sudo hadoop                 

hadoop单机模式配置

1.环境 VMware10,CentOS6.4,64位,JDK1.8 ,Hadoop2.7 需要64位Linux 2.安装JDK,Hadoop2.7需要JDK7 ,支持JDK1.8,直接解压下载的JDK并配置变量即可(1)下载“jdk-7u79-linux-x64.gz”,放到/usr/目录下(2)解压,输入命令,tar -zxvf jdk-7u79-linux-x64.gz(3)编辑 vi /etc/profileexport JAVA_HOME=/usr/java/jdk1.7.0_79ex