假期学习进度十三

安装sbt

sbt是一款Spark用来对scala编写程序进行打包的工具,下载地址https://repo.typesafe.com/typesafe/ivy-releases/org.scala-sbt/sbt-launch/0.13.11/sbt-launch.jar

下载后,执行如下命令拷贝至 /usr/local/sbt 中:

接着在 /usr/local/sbt 中创建 sbt 脚本(vim ./sbt),添加如下内容:

为 ./sbt 脚本增加可执行权限:

最后运行如下命令,检验 sbt 是否可用(第一次需要下载相关jar包,耐心等待,下载时间与网速有关。成功后如图2所示)

Scala应用程序代码
在终端中执行如下命令创建一个文件夹 sparkapp 作为应用程序根目录:

在 ./sparkapp/src/main/scala 下建立一个名为 SimpleApp.scala 的文件(vim ./sparkapp/src/main/scala/SimpleApp.scala),添加代码如下:

./sparkapp 中新建文件 simple.sbt(vim ./sparkapp/simple.sbt),添加内容如下,声明该独立应用程序的信息以及与 Spark 的依赖关系:

为保证 sbt 能正常运行,先执行如下命令检查整个应用程序的文件结构:

我们就可以通过如下代码将整个应用程序打包成 JAR(首次运行同样需要下载依赖包 ):

/usr/local/sbt/sbt package

说明成功。

最后,我们就可以将生成的 jar 包通过 spark-submit 提交到 Spark 中运行了,命令如下:

原文地址:https://www.cnblogs.com/lover995/p/12304567.html

时间: 2024-10-30 08:51:13

假期学习进度十三的相关文章

假期学习进度1

毕业设计进度10% 阅读<Android开发从入门到精通>,查找要使用的知识点,并按照例子进行练习: 阅读乐理有关资料,为毕设乐理内容准备: 学习musicxml有关知识点,控制midi音频: android中字符串处理技巧: 下一步: 设计musicxml文件与字符内容匹配 原文地址:https://www.cnblogs.com/luohaochi/p/12250009.html

学习进度十三(Scala独立应用编程)

环境如下: Hadoop 2.6.0以上 java JDK 1.7以上 Spark 3.0.0-preview2 一.Scala独立应用编程 1.安装sbt sbt是一款Spark用来对scala编写程序进行打包的工具,这里简单介绍sbt的安装过程,感兴趣的读者可以参考官网资料了解更多关于sbt的内容.Spark 中没有自带 sbt,这里直接给出sbt-launch.jar的下载地址,直接点击下载即可.我们选择安装在 /usr/local/sbt 中: sudo mkdir /usr/local

第十三周学习进度

  第十三周学习进度 代码量 200 博客量 5 时间 15 学到的知识点 软件工程质量的定义与评估,<人月神话>里开发过程中的焦油坑问题 总结:这星期开始进行下一冲刺阶段,自己通过阅读<人月神话>这本书也受到很大的启发,里面提到了我们在开发中会遇到的一些问题,感觉很有帮助.

软件工程 学习进度条

学习进度图条 点滴成就 学习时间 新编写代码行数 博客量(篇) 学到知识点 第一周 4h 0 2 软件工程相关概念:软件工程和计算机科学的关系: github:博客园的申请.发布: 第二周 5h 88 1 利用c++进行程序分析:个人技术和流程: 第三周 5.5h 90 1 c++程序分析:软件工程师的成长 第四周         第五周         第六周         第七周         第八周         第九周         第十周         第十一周      

我的假期学习报告2

我的假期学习报告2 复习进度报告 高等数学 已完成所有公式的默写工作,正在做题以增加熟练度. 概率论与数理统计 已完成第3章的复习工作. 操作系统 已完成第一.二.三章的PPT复习. 病情报告 已无大碍,没有任何后遗症:气温回暖,相信穿厚实点可以不会重蹈覆辙. 实践报告 已经在预约单位实践一星期,单位对我的工作表示积极肯定. 感想 我只能飞回北京了,多亏了这奇怪的抢票系统! 原文地址:https://www.cnblogs.com/battlefieldheros/p/8414733.html

苏黄的假期学习报告3

苏黄的假期学习报告3 复习进度 所有需要复习科目都已经过了一遍,但是时间所剩不多,因为本来寒假就短,我还因为病情住院.不爽! 春节安排 如果学校放假时间往后延一两个星期,我就可以和家人.同学在家乡过完一个完整的春节--从大年三十到元宵节.可惜学校就是想让我们这群年轻人体验一把春运抢不着返程票的滋味,真TMD的生气!我前几天就帮家里人收拾屋子,明天去买只活鸡宰了来祭祀.年三十肯定和家里人过,看不看春晚另外讲:初一就按小学.初中.高中.家这个路线去"行大运":初二回老家.之后就在吃汤圆.粽

面向对象程序设计学习进度条

面向对象程序设计学习进度条 周次 (阅读/编写)代码行数 发布博客量/博客评论数量 课堂/课余学习时间(小时) 最满意的编程任务 第一周 100/40 1/0 6/4 九九乘法表 第二周 150/80 1/0 6/4 实验3.实验7 第三周         第四周         第五周         第六周         第七周         第八周         第九周         第十周         第十一周         第十二周         第十三周      

学习进度条201771010119穷吉

<2018面向对象程序设计(java)课程学习进度条> 周次 编写代码行数 发表博客量.博客评论量 课堂/课余学习时间(小时) 最满意编程任务 第一周 20~30 1/0 4/2 九九乘法表 第二周 40~60 1/0 6/4 实验一.实验二 第三周 70~80 4/3 第四周 第五周 第六周 第七周 第八周 第九周 第十周 第十一周 第十二周 第十三周 第十四周 第十五周 第十六周 第十七周 累计 原文地址:https://www.cnblogs.com/qiongji/p/9655666.

2018面向对象程序设计(java)课程学习进度条

<2018面向对象程序设计(java)课程学习进度条> 周次 (阅读/编写)代码行数 发布博客量/博客评论量 课堂/课余学习时间(小时) 最满意的编程任务 第一周 40/20 1/0 4/5 九九乘法表 第二周 100/40 1/1 4/5 实验3 第三周 300/ 1/0 4/7 第四周 第五周 第六周 第七周 第八周 第九周 第十周 第十一周 第十二周 第十三周 第十四周 第十五周 第十六周 第十七周 累计 原文地址:https://www.cnblogs.com/tangyuechen/