Mac 配置Spark环境(Spark1.6.0)

1. 从官网下载Spark安装包,解压到自己的安装目录下; http://spark.apache.org/downloads.html

2. 进入系统命令行界面,进入安装目录下,如"/安装目录/spark-1.6.0-bin-hadoop-2.6.0 ",输入命令"./bin/pyspark"验证pyspark能否运行,再输入命令“./bin/spark-shell”,查看scala环境能否运行。成功的话会显示Spark图形,并能输入python或scala命令行。

3. 下载pycharm,点击完成安装。新建一个工程,打开Edit configuration,找到Environment variables,点击后面的编辑框,在变量栏目中添加PYTHONPATH,值为spark目录/python,SPARK_HOMR,值为spark安装目录,点ok退出。

4. 如果是用python的话要下载py4j包,用在命令行输入“easy_install py4j”命令就行。然后进入spark安装目录中的python文件夹下,打开lib文件夹,把里面的py4j压缩包复制到上一级python文件夹下,解压。

5. 在pycharm中写好demo,点击运行即可。demo示例如下:

"""SimpleApp.py"""from pyspark import SparkContext

logFile = "/Spark/spark-1.6.0-bin-hadoop2.6/README.md"  # Should be some file on your systemsc = SparkContext("local", "Simple App")logData = sc.textFile(logFile).cache()

numAs = logData.filter(lambda s: ‘a‘ in s).count()numBs = logData.filter(lambda s: ‘b‘ in s).count()

print("Lines with a: %i, lines with b: %i" % (numAs, numBs))
时间: 2024-11-02 07:08:54

Mac 配置Spark环境(Spark1.6.0)的相关文章

Mac配置Qt环境——Could not resolve SDK path for 'macosx10.8'

前言:解决在Mac端安装Qt后,出现的Could not resolve SDK path for 'macosx10.8'的配置信息. 首先,发现问题之前,先搜索一下.但是搜索的结果都是说,找到配置文件把macosx10.8修改成macosx10.9就OK了.我也尝试了,但不成功.原因在于我并不了解为什么这么修改和这个问题的产生的根源是什么. 接触Mac系统不长,但是感觉这个macosx10.8是系统的版本号吧!?查看了一下自己系统的版本号,和默认的配置文件,真的不一样.修改配置文件和系统的版

mac配置adb环境变量

android环境搭建完成之后需要配置android环境变量,这对以后的运行调试很有帮助. 下面我将一下mac环境下的配置步骤: 1.在本地目录(home directory)中创建文件.bash_profile 2.在文件中写入以下内容: export ANDROID_HOME=/Users/storm/android_tools/adt-bundle-mac-x86_64-20130522/sdk export PATH=$PATH:$ANDROID_HOME/tools export PA

mac配置java环境

首先下载: 网址如下: http://www.oracle.com/technetwork/cn/java/javase/downloads/jdk7-downloads-1880260.html 配置环境变量: 1. 命令行输入 cd ~ vim .bash_profile 2.编辑放入下面的内容 export JAVA_HOME='/Library/Java/JavaVirtualMachines/jdk1.7.0_75.jdk/Contents/Home' export PATH=$PAT

为MAC配置终端环境iTerm2+Zsh+oh-my-zsh

首先展示下我的终端吧. 这就是我们为什么要配置iTerm2+Zsh+oh-my-zsh环境的原因: 我们使用zsh解释器,当然等你使用 zsh时就会知道zsh与bash对比的强大之处了. 至于我们的git库颜色分级是因为oh-my-zsh,oh-my-zsh有很多中主题供我们选择,"agnoster"这款主题深受程序员的喜爱,当然我使用的就是这款主题.你也可以设置自己喜欢的主题. 1.iTerm2 iTerm 2的功能有很多,百度技巧层出不穷,推荐看看这篇博客  http://blog

Mac 配置Android环境变量( 有图)

1.打开环境变量配置文件 open ~/.bash_profile 2.添加Android环境变量路径 在打开的文本编辑器中添加如下代码,一定要修改哦 export PATH=${PATH}:/Users/zsl/Downloads/android/android-sdk-macosx/tools:/Users/zsl/Downloads/android/android-sdk-macosx/platform-tools 其中/Users/zsl/Downloads/android/androi

Mac配置maven环境命令

1.安装:解压下载好的maven的文件,解压到你想要的文件夹底下. 2.配置 1)打开终端输入命令 vim ~/.bash_profile (编辑环境变量配置文件) 2)按下i,进入编辑模式 3)在环境变量文件中加上如下的配置 export MAVEN_HOME=export MAVEN_HOME=/Users/colo/mysoft/maven export PATH=$PATH:$MAVEN_HOME/bin PS:(可以将文件直接拖拽至终端内文件路径便可显示出来) 4)输入 :wq退出并保

Mac配置Android 环境

1. app项目下 ionic setup sass “第一次clone一个项目要编译一次sass” 2. git checkout . “返回到修改之前” 3. git status “查看状态” 4. git diff "如果个别不清楚的文件有修改,可以查看修改内容" 5. git checkout -A “切换到分支A” 6. rm -rf app "Develop 项目的父极目录下 删除Develop下的app" 7. ls -all “显示列表的所有信息”

mac配置gradle环境变量

vi ~/.bash_profile #GRADLE GRADLE_HOME=/Users/qinxy/software/gradle-4.9 PATH=$PATH:$GRADLE_HOME/bin export GRADLE_HOME GRADLE_USER_HOME PATH 生效 source ~/.bash_profile 验证 gradle -version 原文地址:https://www.cnblogs.com/fly-book/p/12367177.html

CentOS 7.0下面安装并配置Spark

安装环境: 虚拟机:VMware® Workstation 8.0.1(网络桥接) OS:CentOS 7 JDK版本:jdk-7u79-linux-x64.tar Scala版本:scala-2.11.7 Spark版本:spark-1.4.0-bin-hadoop2.4 用户:hadoop安装Centos时创建的,属于管理员组 第一步:配置SSH 使用hadoop登录系统,在终端运行: yum install openssh-server 如果提示: 则是因为yum服务被占用,需要强制解锁: