Windows上安装运行hadoop

0.自己编译安装步骤在这里,有英文版本连接:《英文传送门》。

自己编译尝试后不成功,换为下面使用别人编译好的版本的方法。参考博客:《初学hadoop,windows下安装》

1.下载JDK,并设置JAVA_HOME。(使用不带空格的路径,比如Program Files,将在后面的配置中报错!)

假设JAVA_HOME路径为C:\Java\jdk1.8.0_73

2.下载hadoop。下载地址:http://hadoop.apache.org/releases.html

这里下载使用的是2.8.3的二进制版本文件,解压到d:/hadoop-2.8.3

3.下载winutils。这个是别人编译好的hadoop的windows版本二进制文件,不需要我们自己进行编译。下载下来然后将hadoop-2.8.3进行!覆盖!即可。

下载地址:https://github.com/steveloughran/winutils

4.在路径D:\hadoop-2.8.3\etc\hadoop下修改文件

①core.site.xml(配置默认hdfs的访问端口)

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

②hdfs-site.xml(设置复制数为1,即不进行复制。namenode文件路径以及datanode数据路径。)

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/hadoop/data/dfs/namenode</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/hadoop/data/dfs/datanode</value>
    </property>
</configuration>

③将mapred-site.xml.template 名称修改为 mapred-site.xml 后再修改内容(设置mr使用的框架,这里使用yarn)

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

④yarn-site.xml(这里yarn设置使用了mr混洗)

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
</configuration>

⑤hadoop-env.cmd

设置JAVA_HOME的值(如果这里使用了带空格的Program Files路径将会报错!)

set JAVA_HOME=C:\Java\jdk1.8.0_73

6.进入D:\hadoop-2.8.3\bin目录,格式化hdfs

在cmd中运行命令 hdfs namenode -format

7.进入D:\hadoop-2.8.3\sbin目录

在cmd中运行命令start-all.cmd

8.在浏览器地址栏中输入:http://localhost:8088查看集群状态。

9.在浏览器地址栏中输入:http://localhost:50070查看Hadoop状态。

以上。

原文地址:https://www.cnblogs.com/chevin/p/9090683.html

时间: 2024-10-07 13:23:22

Windows上安装运行hadoop的相关文章

Windows上安装运行Spark

1.下载Scala: https://www.scala-lang.org/download/ ①注意:必须下载官方要求的JDK版本,并设置JAVA_HOME,否则后面将出现很多麻烦! ②Scala当前最新版本为 2.安装后在cmd中输入scala出现如下提示表示成功 3.下载Spark:http://spark.apache.org/downloads.html 4.进入spark-2.3.3-bin-hadoop2.7\bin,cmd中输入spark-shell ①出现下面错误,表示需要安装

Windows上安装运行 cnpm, 来代替 npm

现在记录一下,再有遇到这种SB系统问题的就可以搞定了. 1.找大盘建一个目录 npmConfig(随便什么名字) 2.批处理执行 npm config set prefix "C:\npmConfig\npm" npm config set globalconfig "C:\npmConfig\npm\etc\npmrc" npm config set globalignorefile "C:\npmConfig\npm\etc\npmignore&quo

在 Windows 上安装 Hadoop 教程(转)

在 Windows 上安装 Hadoop 教程 一见 2010.1.6 www.hadoopor.com/[email protected] 1. 安装 JDK 不建议只安装 JRE,而是建议直接安装 JDK,因为安装 JDK 时,可以同时安装 JRE. MapReduce 程序的编写和 Hadoop 的编译都依赖于 JDK,光 JRE 是不够的. JRE 下载地址:http://www.java.com/zh_CN/download/manual.jsp JDK 下载地址:http://jav

在Windows Service上安装运行Redis

CSDN下载RedisWatcher,运行InstallWatcher.msi,默认安装在C:\Program Files (x86)\RedisWatcher,修改watcher.conf 1 # required exepath and exename are combined to form full path 2 exepath D:\Demos\redisdev\redis 3 exename redis-server.exe 4 5 # optional fastfailMS is

Windows OS上安装运行Apache Kafka教程

本文转自:http://geek.csdn.net/news/detail/52976 下面是分步指南,教你如何在Windows OS上安装运行Apache Zookeeper和Apache Kafka. 简介 本文讲述了如何在Windows OS上配置并启动Apache Kafka,这篇指南将会指导你安装Java和Apache Zookeeper. Apache Kafka是一个快速可扩展的消息队列,能够应对繁重的读写负载,即IO相关工作.更多信息请参见http://kafka.apache.

windows上eclipse搭建hadoop开发环境(自用,备忘)

注:本文为自用,随时更新. 一.系统环境 Windows7.Ecplise 4.4.0,Hadoop2.7.2 Hadoop安装教程请看:Hadoop2.7.2安装教程 此处需要注意的是:你的hadoop运行在远程的虚拟机上,但是你的windows上也需要有hadoop的运行环境,这样eclipse才能进行远程调试,所按照上面教程安装完虚拟机上的hadoop,还需要下载同样版本的Hadoop加压到windows上即可,还需要配置相应的环境变量,拷贝winutil.exe.hadoop.dll等文

Windows平台安装配置Hadoop

Windows平台安装配置Hadoop 步骤: 1. JDK安装2. 下载hadoop2.5.2.tar.gz,自行去百度下载. 3. 下载hadooponwindows-master.zip[**能支持在windows运行hadoop的工具]https://github.com/steveloughran/winutils 一. 安装hadoop2.5.2 下载hadoop2.5.2.tar.gz ,并解压到你想要的目录下,我放在D:\dev\hadoop-2.5.2  二.配置hadoop环

windows上安装db2 spatial extender和ArcSDE的问题

因客户的DB2版本是9.7的版本,所以测试环境也只能安装这个版本,但在ArcSDE的最小支持版本里至少需要V9.7 pack 4的版本,低于这个版本是不行的. 安装DB2和spatial extender 安装好DB2后创建空间数据库(假如名字叫mysdedb),这里最好能优化一下以下的配置: 1.注意创建数据库时的字符编码. 2.最好创建自己的缓存池(使用16或者32k的pagesize). create bufferpool sdepool size 12800 pagesize 32K c

在Windows上安装MongoDB

原文官方文档:https://docs.mongodb.org/v2.6/tutorial/install-mongodb-on-windows/ 基于版本:MongoDB 2.6 概览 通过这个示例在Windows上安装MongoDB. 平台支持: 从2.2版本开始,MongoDB不支持Windows XP了,请使用最新版本的Windows使用较新的MongoDB的版本. 重要: 如果你使用的Windows Server 2008 R2的edition版本或者是Windows 7,请安装a h