使用maven开发MR

1.安装mvn(可以省略,因为eclipse自带maven插件)
  1.1. 上传安装包到linux
  1.2. 解压maven安装包

mkdir /usr/maven
tar -zxvf apache-maven-3.2.1-bin.tar.gz -C /usr/maven

  1.3添加maven到环境变量

vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.7.0_55
export MAVEN_HOME=/usr/maven/apache-maven-3.2.1
export HADOOP_HOME=/cloud/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$MAVEN_HOME/bin

2.将m2.tar.gz解压到当前用户的家目录下

tar -zxvf m2.tar.gz -C ~/ 

3.在Eclipse下新建maven project
  3.1安装Linux版本JavaEE的eclipse,包括如何快捷方式(create launcher)及更换快捷方式图标

  3.2打开eclipse,new---project---Maven---Mavern project:next---勾选create a simple project
    填写Group Id:【cn.ncst.mr】,Artifact Id:【datacount】,点击finish完成操作

  3.3由于Linux不能联网下载依赖的Maven包,所以报错。解决问题方式:
    导入已下载好的依赖包m2.tar,解压到root用户的家目录cd ~; tar -zxvf m2.tar(解压后是隐藏文件)
    然后在eclipse的maven项目datacount上右键Maven---Update project---OK即可解决问题。
注意:Linux机并没有安装Maven程序,只是eclipse程序自带Maven插件而已。

  3.4如果新建项目报错,在当前项目的pom.xml中添加如下内容,刷新即可(需要有网络)

<dependencies>
<dependency>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-resources-plugin</artifactId>
<version>2.4.3</version>
</dependency>
</dependencies>

4.编写hadoop程序
  4.1.HDFS程序需要(在pom.xml文件中)引入依赖:

<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.8.2</version>
<scope>test</scope>
</dependency>

<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.4.1</version>
</dependency>

<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs</artifactId>
<version>2.4.1</version>
</dependency>
</dependencies>

  4.2.MR程序需要(在pom.xml文件中)引入依赖:

<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.8.2</version>
<scope>test</scope>
</dependency>

<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.4.1</version>
</dependency>

<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-mapreduce-client-core</artifactId>
<version>2.4.1</version>
</dependency>
</dependencies>
时间: 2024-11-02 22:52:35

使用maven开发MR的相关文章

Eclipse搭建maven开发环境

上一篇学习了maven开发环境的搭建,并且手动编写了一个maven工程,但是这样子效率很低下,今天带大家学习在eclipse下搭建maven开发环境. 常用的maven命令 mvn clean :运行清理操作,会将target文件夹中的数据删除 mvn clean compile:先运行清理操作,之后运行编译操作,会将代码编译到target文件夹中. mvn clean test: 运行清理和测试 mvn clean package : 运行清理和打包 mvn clean install : 运

Java学习篇之---Maven开发跳过单元测试

Maven开发跳过单元测试 最近做Maven项目,因为工程很庞大,每次单元测试会耗去很多时间,本着节省时间的原则,想要跳过单元测试部分,于是网上找了两种方案,分别是在DOS环境下操作Maven和在eclipse中操作Maven. Maven 提供了跳过单元测试的能力,只需要使用 Surefire 插件的 skip 参数. DOS下,只要简单的给任何目标添加 maven.test.skip 属性就能跳过测试: $ mvn install -Dmaven.test.skip=true ... [IN

如何在不允许联网的环境下使用Maven开发

前言:Maven的运行机理是:Maven核心组件先去本地的.m2目录下的库中去寻找依赖或者插件,如果本地库里没有,如果配置了私服则上私服去下载依赖或者插件,如果私服上没有,则上中央服务等Maven服务器起下载.因此,所有的依赖和插件都源于中央服务器.可是在有些苛刻环境下,是不允许局域网和外网有任何连接,而又想使用Maven来构建项目,那怎么办呢?以下将讲述具体步骤: 1)寻找一台可以联网的电脑,在上边搭建nexus私服: 2)配置setting.xml文件,使得本地开发环境依赖nexus私服:

J2EE整合Maven开发,Tomcat正常启动,访问链接报404错误

Tomcat7.X正常启动,通过浏览器访问URL时,报404错误.原来是部署时,初了问题,因为使用IDE开发,Eclipse帮我们自动部署了,可有时候会出现问题.解决方案如下: 选中项目,右键:Properties -> Deployment Assembly J2EE整合Maven开发,Tomcat正常启动,访问链接报404错误

maven开发mybatis 让*.xml 拷贝到classes目录下

在开发mybatis项目时,很多时候我们要把配置文件放在src/main/java目录下,可是maven在编译项目时,默认不把src/main/java目录下的*.xml拷贝到classes目录下,那么就需要我们配置maven <build>    <resources>    <resource>    <directory>src/main/java</directory>    <includes>    <include

Maven开发环境的搭建,含jetty调试[简单明了]

之前的一片老文,搬过来. 1. Maven的开发环境需要哪些部件a) Maven.去http://maven.apache.org/ 下载.将其bin目录加入进系统PATH.测试方法:用命令mvn –version. b) m2eclipse插件(可选).如果你习惯命令行的方式用maven,可以忽略.如果你在安装插件过程中因某些原因导致下载或安装失败,请寻找安装了m2eclipse的eclipse包.一般来讲安装m2eclipse插件的时候,会需要依赖一些其他的插件,然而部分这些被依赖的插件,又

Maven开发基础总结(Maven自启动,Maven打war包,Maven热部署)

学习内容: 1.不依赖外部Tomcat,自己启动方式部署 2.Maven打war包,远程部署到centOS 3.Maven热部署(不关闭Tomcat部署应用) 做maven开发前提: 1.编码UTF-8 2.设置maven仓库位置(setting.xml文件里面配置Maven仓库的路径) 例如:<localRepository>G:\Maven\repository</localRepository>(这个仓库是公司Maven服务器仓库down下来的) 3.在eclipse中设置M

Maven开发进行版本管理

1.RELEASE版本:如果本地仓库已经存在该版本,不会从MAVEN私服下载最新版本的. 2.SNAPSHOT版本:会根据时间戳下载最新版本. 版本命名规则说明:<组件>-版本号.jar 如:hollybeacon-basic-1.1.0.RELEASE.jar hollybeacon-message-1.0-SNAPSHOT.jar 版本号的命名规则: 正式版本:<大版本>.<中版本>.<小版本>.RELEASE 快照版本:<大版本>.<

Scala java maven开发环境搭建

基于maven配置的scala开发环境,首先需要安装 idea 的scala plugin.然后就可以使用maven编译scala程序了.一般情况下都是java scala的混合,所以src下面有java scala两个源文件目录. 1 <?xml version="1.0" encoding="UTF-8"?> 2 <project xmlns="http://maven.apache.org/POM/4.0.0" 3 xml