hadoop(十三) - mahout安装与使用

一. mahout简介:

Mahout 是一个很强大的数据挖掘工具,是一个分布式机器学习算法的集合,包括:被称为Taste的分布式协同过滤的实现、分类、聚类等。Mahout最大的优点就是基于hadoop实现,把很多以前运行于单机上的算法,转化为了MapReduce模式,这样大大提升了算法可处理的数据量和处理性能。

以下为在mahout实现的机器学习算法:


算法类


算法名


中文名


分类算法


Logistic Regression


逻辑回归


Bayesian


贝叶斯


SVM


支持向量机


Perceptron


感知器算法


Neural Network


神经网络


Random Forests


随机森林


Restricted Boltzmann Machines


有限波尔兹曼机


聚类算法


Canopy Clustering


Canopy聚类


K-means Clustering


K均值算法


Fuzzy K-means


模糊K均值


Expectation Maximization


EM聚类(期望最大化聚类)


Mean Shift Clustering


均值漂移聚类


Hierarchical Clustering


层次聚类


Dirichlet Process Clustering


狄里克雷过程聚类


Latent Dirichlet Allocation


LDA聚类


Spectral Clustering


谱聚类


关联规则挖掘


Parallel FP Growth Algorithm


并行FP Growth算法


回归


Locally Weighted Linear Regression


局部加权线性回归


降维/维约简


Singular Value Decomposition


奇异值分解


Principal Components Analysis


主成分分析


Independent Component Analysis


独立成分分析


Gaussian Discriminative Analysis


高斯判别分析


进化算法


并行化了Watchmaker框架


推荐/协同过滤


Non-distributed recommenders


Taste(UserCF, ItemCF, SlopeOne)


Distributed Recommenders


ItemCF


向量相似度计算


RowSimilarityJob


计算列间相似度


VectorDistanceJob


计算向量间距离


非Map-Reduce算法


Hidden Markov Models


隐马尔科夫模型


集合方法扩展


Collections


扩展了java的Collections类

二. Mahout安装、配置 

1. 下载Mahout

http://archive.apache.org/dist/mahout/

2. 解压

tar -zxvf mahout-distribution-0.9.tar.gz

3. 配置环境变量

3.1、配置Mahout环境变量

# set mahout environment

export MAHOUT_HOME=/home/yujianxin/mahout/mahout-distribution-0.9

export MAHOUT_CONF_DIR=$MAHOUT_HOME/conf

export PATH=$MAHOUT_HOME/conf:$MAHOUT_HOME/bin:$PATH

3.2、配置Mahout所需的Hadoop环境变量

# set hadoop environment

export HADOOP_HOME=/home/yujianxin/hadoop/hadoop-1.1.2

export HADOOP_CONF_DIR=$HADOOP_HOME/conf

export PATH=$PATH:$HADOOP_HOME/bin

export HADOOP_HOME_WARN_SUPPRESS=not_null

4. 验证Mahout是否安装成功: 执行命令mahout。若列出一些算法,则成功

三. 使用Mahout之入门级使用

1. 启动Hadoop

2.下载测试数据  http://archive.ics.uci.edu/ml/databases/synthetic_control/   链接中的synthetic_control.data

3.上传测试数据 hadoop fs -put synthetic_control.data /user/root/testdata

4. 使用Mahout中的kmeans聚类算法,执行命令:mahout -core  org.apache.mahout.clustering.syntheticcontrol.kmeans.Job

5 查看聚类结果: 执行hadoop fs -ls /user/root/output

时间: 2024-11-03 21:57:59

hadoop(十三) - mahout安装与使用的相关文章

Mahout安装(Hadoop 1.2.1 版本)

1       安装环境 Hadoop1.2.1 分布式集群环境下安装(192.168.1.53-56) Mahout 0.9 2       安装介质 下载地址:http://archive.apache.org/dist/mahout/0.9/ 文件名(二进制):mahout-distribution-0.9.tar.gz 3       安装步骤 3.1     上传安装介质: #rz 上传目录为:/home/hadoop/ 3.2     解压到相关目录 #cd   /app/hadoo

hadoop家族之mahout安装

步骤一.下载mahout  http://www.apache.org/dyn/closer.cgi/mahout/ 我下载的是 mahout-distribution-0.9.tar.gz 16-Feb-2014 08:31 66M 步骤二.下载完成后放到Linux中并解压 解压命令:tar -zxvf mahout-distribution-0.9.tar.gz 步骤三.重命名(选做) 命令:mv  mahout-distribution-0.9 mahout 步骤四.配置环境变量 Hado

mahout安装和配置简明步骤

①在官网下载最新的mahout版本,放在linux本机系统的/usr/local/目录下,然后解压即可 tar -zxvf mahout-distribution-0.9.tar.gz ②重命名解压后的文件夹为mahout mv mahout-distribution-0.9 mahout ③执行vi /etc/profile 配置mahout的环境,内容如下: ④执行source /etc/profile使得配置文件立即生效 ⑤下载测试数据进行测试: 下载一个文件synthetic_contr

mahout 安装

1. 下载mahout-distribution-0.5.tar.gz 并解压: 2.配置环境变量: /etc/profile export MAHOUT_HOME=/home/mahout/ export PATH=$MAHOUT_HOME/bin:$PATH 3. 启动hadoop start-all.sh 4. mahout -help 测试 5. kmeans测试: (1)下载一个文件synthetic_control.data,下载地址http://archive.ics.uci.ed

mahout安装配置

前言:配置mahout花了挺多时间的,主要是在一些小的问题上浪费了很多时间. 1.下载mahout 下载地址:http://mahout.apache.org 我下载的最新版:mahout-distribution-0.9 2.把mahout解压到你想存放的文档,我是放在/Users/jia/Documents/hadoop-0.20.2,即hadoop的安装目录上. 3.为mahout配置环境 打开终端,打开profile文件所在的目录 JIAS-MacBook-Pro:~ jia$ open

【原】centos6.5下hadoop cdh4.6 安装

1.架构准备: namenode 10.0.0.2 secondnamenode 10.0.0.3 datanode1 10.0.0.4 datanode2 10.0.0.6 datanode3 10.0.0.11 2.安装用户:cloud-user 3.[namenode]namenode到其他节点ssh无密码登录: ssh-keygen     (一路回车) ssh-copy-id [email protected]3 ssh-copy-id [email protected]4 ssh-c

hadoop学习;安装jdk,workstation虚拟机v2v迁移;虚拟机之间和跨物理机之间ping网络通信

JDK 在Ubuntu下的安装 与 环境变量的配置 前期准备工作: 找到  JDK 和 配置TXT文件  并复制到桌面下  不是文件夹 而是文件复制到桌面下 下面的命令部分就直接复制粘贴就可以了 1.配置root用户 使用快捷键 Ctrl + Alt + T  打开终端 输入命令:sudo passwd root 在需要输入密码的地方 输入 123456  (注意 需要输入3次 每次输入的时候在屏幕上是不显示出来的) 2.启用root用户 在终端输入命令:su root 输入密码:123456

吴超老师课程---hadoop的分布式安装过程

1.hadoop的分布式安装过程 1.1 分布结构 主节点(1个,是hadoop0):NameNode.JobTracker.SecondaryNameNode            从节点(2个,是hadoop1.hadoop2):DataNode.TaskTracker    1.2 各节点重新产生ssh加密文件    1.3 编辑各个节点的/etc/hosts,在该文件中含有所有节点的ip与hostname的映射信息    1.4 两两节点之间的SSH免密码登陆            ss

hadoop的分布式安装过程

1.hadoop的分布式安装过程 1.1 分布结构 主节点(1个,是hadoop0):NameNode.JobTracker.SecondaryNameNode     从节点(2个,是hadoop1.hadoop2):DataNode.TaskTracker 1.2 各节点重新产生ssh加密文件 1.3 编辑各个节点的/etc/hosts,在该文件中含有所有节点的ip与hostname的映射信息 1.4 两两节点之间的SSH免密码登陆   ssh-copy-id -i  hadoop1   s