【Spark篇】---SparkStreaming中算子中OutPutOperator类算子

一、前述

SparkStreaming中的算子分为两类,一类是Transformation类算子,一类是OutPutOperator类算子。

Transformation类算子updateStateByKey,reduceByKeyAndWindow,transform

OutPutOperator类算子print,foreachRDD,saveAsTextFile

li { list-style: none; margin: 0 }
p { margin: 0 }
span.l { color: red; font-weight: bold }
a.mapnode:link { text-decoration: none; color: black }
a.mapnode:visited { text-decoration: none; color: black }
a.mapnode:active { text-decoration: none; color: black }
a.mapnode:hover { text-decoration: none; color: black; background: #eeeee0 }

本文讲解OutPutOperator类算子。

li { list-style: none; margin: 0 }
p { margin: 0 }
span.l { color: red; font-weight: bold }
a.mapnode:link { text-decoration: none; color: black }
a.mapnode:visited { text-decoration: none; color: black }
a.mapnode:active { text-decoration: none; color: black }
a.mapnode:hover { text-decoration: none; color: black; background: #eeeee0 }
li { list-style: none; margin: 0 }
p { margin: 0 }
span.l { color: red; font-weight: bold }
a.mapnode:link { text-decoration: none; color: black }
a.mapnode:visited { text-decoration: none; color: black }
a.mapnode:active { text-decoration: none; color: black }
a.mapnode:hover { text-decoration: none; color: black; background: #eeeee0 }
--
--> { }
li { list-style: none; margin: 0 }
p { margin: 0 }
span.l { color: red; font-weight: bold }
a.mapnode:link { text-decoration: none; color: black }
a.mapnode:visited { text-decoration: none; color: black }
a.mapnode:active { text-decoration: none; color: black }
a.mapnode:hover { text-decoration: none; color: black; background: #eeeee0 }
--
--> { }

二、具体

1、foreachRDD

可以拿到DStream中的一个个的RDD,对拿到的RDD可以使用Transformation类算子对数据进行转换,foreachRDD方法内,拿到的RDD Transformation类算子外的代码是在Driver端执行

原文地址:https://www.cnblogs.com/LHWorldBlog/p/8521574.html

时间: 2024-10-09 16:23:49

【Spark篇】---SparkStreaming中算子中OutPutOperator类算子的相关文章

【Spark篇】---Spark中广播变量和累加器

一.前述 Spark中因为算子中的真正逻辑是发送到Executor中去运行的,所以当Executor中需要引用外部变量时,需要使用广播变量. 累机器相当于统筹大变量,常用于计数,统计. 二.具体原理 1.广播变量 广播变量理解图 注意事项 1.能不能将一个RDD使用广播变量广播出去? 不能,因为RDD是不存储数据的.可以将RDD的结果广播出去. 2. 广播变量只能在Driver端定义,不能在Executor端定义. 3. 在Driver端可以修改广播变量的值,在Executor端无法修改广播变量

马后炮一篇 关于Futurama S06E10中的数学问题

时间要追溯到2013年9月,我看到过这样一个有趣的问题,来源于matrix67的一篇博文. 那么把题目摘录一下: " 经典 Geek 动画 Futurama 上周播出了第 6 季的第 10 集 The Prisoner of Benda .在这一集中,教授 Farnsworth 发明了一种"心灵对换机",它可以把两个人的思想互相对换,使得 A 的大脑跑进 B 的身体里,而 B 的大脑则跑到 A 的身体里. Farnsworth 和 Amy 都想得到对方的身体,便成为了这台机器

Android总结篇系列:Activity中几个主要函数详解

专注Android领域开发. 仰望星空,同时需要脚踏实地. ——好记性不如烂博客 Android总结篇系列:Activity中几个主要函数详解 Activity作为Android系统中四大基本组件之一,包含大量的与其他的各大组件.intent.widget以及系统各项服务等之间的交互的函数.在此,本文主要选取实际项目开发中常用的,但完全理解又需要有一定深入了解的几个函数进行讲解,后续本文会根据需要不断更新. 1. startActivityForResult / onActivityResult

第五篇:在SOUI中使用XML布局窗口

窗口布局的概念 每一个UI都是由大量的界面元素构成的,在Windows编程,这些界面元素的最小单位通常称之为控件. 布局就是这些控件在主界面上的大小及相对位置. 传统的布局一般使用一个4个绝对坐标来定义一个控件在主窗口的位置.对于窗口是固定大小的界面来说,这种方式是最简单有效的. 然而问题在于在Windows系统上编程,基本上很少有程序的窗口是固定大小的,用户希望它的窗口能够随时调整大小.调整大小后界面里的控件还能够按照一定的规则进行重排. 我自己最讨厌的就是在WM_SIZE里重排控件位置. 随

JAVA学习篇--ThreadLocal,Java中特殊的线程绑定机制

在DRP项目中,我们使用了ThreadLocal来创建Connection连接,避免了一直以参数的形式将Connection向下传递(传递connection的目的是由于jdbc事务要求确保使用同一个connection连接).那么ThreadLocal是如果做到的呢?它和同步锁的不同在哪里? 是什么: 对于ThreadLocal看英文单词我们很容易理解为一个线程的本地实现,但是它并不是一个Thread,而是threadlocalvariable(线程局部变量).也许把它命名为ThreadLoc

[再寄小读者之数学篇](2014-07-27 $H^{-1}$ 中的有界集与弱收敛极限)

设 $H^{-1}$ 是 $H^1_0$ 的对偶空间, 定义域为 $[0,1]$. 试证: (1) $\sed{h\sin (2\pi hx);\ h>0}$ 在 $H^{-1}$ 中有界; (2) 试求 $h\sin (2\pi hx)$ 在 $H^{-1}$ 中的弱极限. 证明: (1) 对 $\forall\ f\in H^1_0$, $\sen{f}_{H^1}\leq 1$, $$\beex \bea \sef{h\sin (2\pi hx),f(x)}&=\int_0^1 h\s

Java基础篇Socket网络编程中的应用实例

说到java网络通讯章节的内容,刚入门的学员可能会感到比较头疼,应为Socket通信中一定会伴随有IO流的操作,当然对IO流比较熟练的哥们会觉得这是比较好玩的一章,因为一切都在他们的掌握之中,这样操作起来就显得非常得心应手,但是对于IO本来就不是多熟悉的哥们来说就有一定的困难了,在搞清楚IO流操作机制的同时还必须会应用到Socket通信中去,否则会对得到的结果感到非常郁闷和懊恼,下面就和大家一起分享一下自己遇到一点小麻烦后的感触以及给出的解决办法. 要求:客户端通过Socket通信技术上传本地一

Cocos2d-x3.0游戏实例之《别救我》第九篇——从tmx文件中加载关卡怪物

上一篇我们已经制作好tg1.tmx文件了,现在就要使用它了. 笨木头花心贡献,啥?花心?不呢,是用心~ 转载请注明,原文地址: http://www.benmutou.com/blog/archives/944 文章来源:笨木头与游戏开发 很抱歉,我们又要新建2个类了,我已经尽力少新建类了,毕竟是教程,类越多越容易混乱. 我们要新建一个Monster类,以及一个MonsterLayer类,专门添加Monster对象. Monster类 来看看Monster.h文件: #ifndef Monste

两篇论文之CNN中正交操作

CNN的权值正交性和特征正交性,在一定程度上是和特征表达的差异性存在一定联系的. 下面两篇论文,一篇是在训练中对权值添加正交正则提高训练稳定性,一篇是对特征添加正交性的损失抑制过拟合. 第一篇:Orthonormality Regularization Xie D, Xiong J, Pu S. All You Need is Beyond a Good Init: Exploring Better Solution for Training Extremely Deep Convolution