Windows平台安装及配置Hadoop(不借助cygwin)

由于项目需要,我在VMware上装了几个虚拟机Windows server 2012 R2,并要搭建Hadoop集群。刚刚入门hadoop,一头雾水,然后开始搜各种教程,首先是选用cygwin进行安装,但是呢,后来出现一堆问题,然后放弃。最终选择直接在Windows server 2012 R2上安装配置Hadoop,在这里非常感谢博友教程,地址是https://blog.csdn.net/antgan/article/details/52067441,基本是按照这个教程来的,主要说下我踩得坑吧。

整个流程是:

JDK安装及环境变量配置(这个教程很多自己搜吧)

下载hadoop2.5.2.tar.gz 并解压,配置hadoop环境变量,修改hadoop配置文件,我的是直接放到C目录下,即C:\hadoop-2.5.2

其文件目录为

下载hadooponwindows-master.zip 并解压,将bin目录替换原来hadoop目录下的bin目录即可

运行环境:运行cmd,窗口起到C:\hadoop-2.5.2\bin下,执行“hdfs namenode -format”命令,这里开始报错,

跟hdfs-site.xml文件相关,  异常: 2 字节的 UTF-8 序列的字节 2 无效

<?xml version="1.0" encoding="UTF-8"?>  

直接将UTF-8改为UTF8,即

<?xml version="1.0" encoding="UTF8"?>  

重新运行cmd,首先应将上次格式化生成的logs目录下的文件及workplace目录下生成的文件删除,注意只删除目录下文件,不删除文件目录。窗口起到C:\hadoop-2.5.2\bin下,执行“hdfs namenode -format”命令,不在报错

cmd窗口转换到sbin下,执行“start-all.cmd”命令,弹出以下四个窗口,

紧接着在sbin下,执行“jps”命令,得到以下结果:

到这一步hadoop服务搭建完毕。

按照上文博友教程进行上传测试,操作HDFS,注意在Hadoop服务开启的状态下,再另打开一个cmd窗口,执行以下操作:

首先创建输入目录:

上传数据到目录:

然后查看文件:

原文地址:https://www.cnblogs.com/wanglexueshilengde/p/8985198.html

时间: 2024-10-15 21:32:42

Windows平台安装及配置Hadoop(不借助cygwin)的相关文章

Windows平台安装配置Hadoop

Windows平台安装配置Hadoop 步骤: 1. JDK安装2. 下载hadoop2.5.2.tar.gz,自行去百度下载. 3. 下载hadooponwindows-master.zip[**能支持在windows运行hadoop的工具]https://github.com/steveloughran/winutils 一. 安装hadoop2.5.2 下载hadoop2.5.2.tar.gz ,并解压到你想要的目录下,我放在D:\dev\hadoop-2.5.2  二.配置hadoop环

Windows平台安装配置mysql数据库

Windows平台安装配置mysql数据库 作者:Eric 微信:loveoracle11g 去下载mysql软件 https://www.mysql.com/downloads/ https://dev.mysql.com/downloads/mysql/ 解压下载的zip文件 d盘新建文件夹mysql ,解压到新建的这个目录 以后这个目录就是mysql的安装目录 配置my.cnf 打开目录,会看到my-default.ini配置文件 复制这个配置文件可以重命名为my.ini或者my.cnf

PHP 1:在Windows上安装和配置PHP,Apache和My SQL

原文:PHP 1:在Windows上安装和配置PHP,Apache和My SQL 如果你Google一把类似的主题,你会发现相关的文章可以塞满你的硬盘.在这里之所以把它再次拿出来,目的是想记录我作为一个新手如何配置的,以及配置期间碰到的一些问题.期望其中的一些问题对大家有用.下载安装文件就不用说了.不过还是提一下版本吧. PHP:5.1.4 Apache 2.2.3 MySQL:5.0.2-community-nt 我安装的顺序如下: 安装PHP 安装Apache 安装MySQL PHP安装 有

Windows平台安装Redmine2.5.x

安装准备 下载RubyInstaller和Development Kit,也可以使用RailsFTW,轻松搞定windows下的安装. 下载MySql 下载mysql-connector-c-noinstall-6.0.2-win32.zip 下载Redmine 开始安装 1. 安装Ruby 执行RubyInstaller,一路next,安装即可 2. 安装DevKit 执行DevKit-tdm-32-4.5.2-20111229-1559-sfx.exe,解压到:C:\DevKit Win+R

windows平台安装redis服务

有时候我们需要在windows平台上使用redis作为缓存服务,这个时候就需要将redis安装为window服务. 现在将我安装过程记录下来,方便自己或者有类似需求的同学参考.主要是参考网上现有的例子,请轻喷 主要参考如下文章: http://www.it165.net/admin/html/201407/3407.html http://www.cnblogs.com/shanyou/archive/2013/01/17/redis-on-windows.html 如下摘抄的是http://w

PoostgreSQL在Windows平台安装失败的解决

一.问题 最近,测试部门反映在Windows平台安装PostgreSQL 9.4失败,弹出信息框的错误信息大致是: "Problem running post-install step. Installation may not complete correctly.  ..." 其后的信息因不同安装版本而略有不同. 经搜集资料并反复实验,找到了一种可适用于大多数环境(已在win7, win10, win server 2012和 win server 2016验证)的解决办法. 以下

memcached(windows)安装与配置

关键字:memcached(windows)安装与配置 1. 下载windows版本的Memcached:http://code.jellycan.com/memcached/ 2.解压之后放在硬盘的目录下,如:D:\memcached . 然后在运行中输入cmd进入命令行,进入到Memcached.exe 所在的目录,例如:D:\memcached,然后输入: Cmd代码  收藏代码 到memcached根目录 1.安装 memcached.exe –d install 2.启动 memcac

Windows Server2016 安装及配置DFS实现数据复制

我们今天主要介绍的是Windows Server2016 安装及配置DFS实现数据复制,那什么是DFS呢?DFS就是Microsoft文件分布系统  是一个网络服务器组件,它能够使你更容易地在网络上查询和管理数据.分布式文件系统是将分布于不同电脑上的文件组合为单一的名称空间,并使得在网络上建立一个单一的.层次化多重文件服务器和服务器共享的工作更为方便的途径,使用户更加容易访问和管理物理上跨网络分布的文件.DFS为文件系统提供了单个访问点和一个逻辑树结构,通过DFS,用户在访问文件时不需要知道它们

PHP学习之-Mongodb在Windows下安装及配置

Mongodb在Windows下安装及配置 1.下载 下载地址:http://www.mongodb.org/ 建议下载zip版本. 2.安装 下载windows版本安装就和普通的软件一样,直接下一步就可以了. 3.启动服务 启动服务之前先创建存放数据库文件的文件夹然后再启动服务. #创建一个MongoDB服务mongod --logpath "D:\development\db\mongodb-win32-x86_64-2008plus-2.6.7\data\log\mongodb.log&q