spark执行例子eclipse maven打包jar

首先在eclipse Java EE中新建一个Maven project具体选项如下

点击Finish创建成功,接下来把默认的jdk1.5改成jdk1.8

然后编辑pom.xml加入spark-core依赖

<!-- https://mvnrepository.com/artifact/org.apache.spark/spark-core -->
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-core_2.11</artifactId>
<version>2.2.1</version>
</dependency>

然后拷贝书中的源码样例程序,由于书中spark版本为1.2我的环境spark是2.2.1所以需要修改代码适应新版本spark API

JavaRDD<String> words = input.flatMap(
new FlatMapFunction<String, String>() {
public Iterator<String> call(String x) {
return Arrays.asList(x.split(" ")).iterator();
}});

然后执行Maven install接下来可以进入目录E:\developtools\eclipse-jee-neon-3-win32\workspace\learning-spark-mini-example\target找到learning-spark-mini-example-0.0.1-SNAPSHOT.jar并上传到spark2.2.1环境的linux目录

然后在linux中执行如下命令,如下图

[[email protected] ~]# spark-submit \
> --class com.oreilly.learningsparkexamples.mini.java.WordCount \
> learning-spark-mini-example-0.0.1-SNAPSHOT.jar \
> /opt/spark-2.2.1-bin-hadoop2.7/README.md wordcounts

原文地址:https://www.cnblogs.com/xiaohanlin/p/8973818.html

时间: 2024-10-14 13:09:54

spark执行例子eclipse maven打包jar的相关文章

Maven打包jar项目

默认情况下,使用maven打包的jar项目(执行maven install)不会包含其他包引用,要想打包为带其他项目引用的jar,需要加入插件 要得到一个可以直接在命令行通过java命令运行的JAR文件,还要满足两个条件: 1.JAR包中的/META-INF/MANIFEST.MF元数据文件必须包含Main-Class信息. 2.项目的依赖包也要合并在打的jar包中,即项目所有的依赖都必须在Classpath中 有多种插件可以完成这个任务: 1.这种方式需要使用mvn package命令来执行

基于spring打包 maven 打包jar项目

J2EE项目开发 一般使用tomcat等servlet容器,有些自动化的任务却不需要放在servlet容器中, 把任务打包成jar会更方便部署 使用Maven打包Spring的jar包

maven打包 jar

使用插件maven-shade-plugin可以方便的将项目已jar包的方式导出,插件的好处在于它会把项目所依赖的其他jar包都封装起来,这种jar包放在任何JVM上都可以直接运行,我最初使用eclipse的maven-build直接打包,转移到intellij idea后没有这个按钮了,就只能用命令行搞了 首先,将插件添加到pom.xml中,其次使用mvn package打包,最后到projectName/target/下查找目标jar包 <build> <plugins> &l

学习日志--hadoop maven打包jar问题

起初是用maven的build来clean package项目,生成jar包,然后在hadoop上运行,出现classNotFound错误. 提示没有找到redis.jedis.redis..错误. 错误原因:生成的jar包里,没有打进去maven依赖. 解决办法:重建了maven项目,把单独的运行在mapreduce上的程序打包,用runnable jar来打包,生成的jar比原先的jar包大一个数量级(以前是k,现在是M).然后在hadoop上运行,就可以了.

maven打包jar源码至私服

1. setting文件 配置私服中设置的用户和密码 <servers> <server> <id>releases</id> <username>admin</username> <password>xxxxxxxxxxx</password> </server> <server> <id>snapshots</id> <username>admin

maven 打包jar &amp;&amp; lib

1.打包成jar直接运行: <build> <plugins> <plugin> <artifactId>maven-compiler-plugin</artifactId> <version>3.1</version> <configuration> <source>1.7</source> <target>1.7</target> </configura

idea使用maven打包jar包

1.在pom.xml中加入以下内容: <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apach

[Maven]打包jar和war并跳过测试

我直接贴代码了.不懂可以留言给我. 添加maven Plugin <plugin> <artifactId>maven-assembly-plugin</artifactId> <version>2.2</version> <configuration> <archive> <manifest> <mainClass>com.yctd.springjms.core.BootStrap</mai

eclipse maven tools.jar找不到y也就是在这个

Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:2.3.2:compile (default-compile) on project uec-receiver-api: Compilation failureUnable to locate the Javac Compiler in:C:\Program Files\Java\jre1.8.0_66\..\lib\tools.jarPlease ensu