一、前言
在之前我们已经在 CenOS6.5 下搭建好了 Hadoop2.x 的开发环境。既然环境已经搭建好了，那么现在我们就应该来干点正事嘛！比如来一个Hadoop世界的HelloWorld，也就是WordCount程序(一个简单的单词计数程序)
二、WordCount 官方案例的运行
2.1 程序简介
WordCount程序是hadoop自带的案例，我们可以在 hadoop 解压目录下找到包含这个程序的 jar 文件(hadoop-mapreduce-examples-2.7.1.jar)，该文件所在路径为 hadoop/share/hadoop/mapreduce。
我们可以使用 hadoop jar 命令查看该jar包详细信息。执行命令：hadoop jar hadoop-mapreduce-examples-2.7.1.jar
可以看到，该 jar 文件中并不止有一个案例，当然我们此时只想看看 WordCount 程序，其他的靠边边。那么我们按照提示，执行命令：hadoop jar hadoop-mapreduce-examples-2.7.1.jar wordcount 看看有什么东西？
根据提示，它说是需要输入文件和输出目录，那么接下来，我们就准备以下输入文件和输出目录吧。
注：其实只需要准备输入文件，不需要准备输入目录。因为 MapReduce 程序的运行，其输入目录不能是已存在的，否则会抛出异常。这是为了避免数据覆盖的问题。请看《Hadoop权威指南》
2.2 准备材料
为了方便使用该官方 jar 文件，我们在当前目录下创建一个 input 目录（你也可以在别的目录下创建目录，目录名也可以自己取，喜欢就好），用来存放输入文件。然后准备2个输入文件。如下所示：
因为我们是使用 HDFS 文件系统的，所以我们要运行 WordCount 这个 MapReduce 程序的话，需要将文件放入 HDFS 上。因此我们使用 HDFS 的文件系统命令，在HDFS文件系统根目录下创建一个input目录，用来保存输入文件。执行命令：hadoop fs -mkdir /input
注：hadoop fs -mkdir 命令是用来在 HDFS 上创建目录的，类似于Linux下的 mkdir 命令
目录创建好后，我们需要把刚刚在本地文件系统上准备的输入文件拷贝到 HDFS 上。执行命令：hadoop fs -put input/f*.txt /input
2.3 运行程序
准备工作就绪了，那么现在就开始运行程序了。执行命令：hadoop jar hadoop-mapreduce-examples-2.7.1.jar wordcount /input /output
注：hadoop jar hadoop-mapreduce-examples-2.7.1.jar wordcount /input /output详解
- 该命令中 /input 表示使用 HDFS 上根目录(/)下的 input 目录下所有文件作为程序输入
- /output 表示使用 HDFS 根目录下的 output 目录存储程序的输出（该 output 文件，是本来不存在的，会由程序自动创建）
从终端可以看到如下命令输出：
程序运行完毕，我们看一下输出都有啥，执行命令：hadoop fs -cat /output/*
注：hadoop fs -cat 命令功能类似于linux下的 cat 命令
从上面的输出，可以看到该程序将我们的输入文件中的单词出现情况，进行了统计。都是 key，value 的形式出现的
三、WordCount 官方程序的源码分析
3.1 查看源码
刚刚已经运行WordCount程序爽了一把，现在我们通过查看源码来看看该程序的真面目。
我们使用 Eclipse 来查看源码。在 hadoop-mapreduce-examples-2.7.1.jar 文件所在目录中，有一个 source 目录，其中就存有该 jar 对应的 hadoop-mapreduce-examples-2.7.1-sources.jar。通过 Eclipse 查看的情况如下：
可以看到该程序很简单，代码量很少。其中内置了2个内部类，分别继承字 Mapper 和 Reducer 类。这其实就是编写 MapReduce 程序时，我们需要进行的工作。
3.2 分析程序结构
程序大概结构如下：（此处只简单说一下，待会儿在自实现的 WordCount 中进行详细的代码注释）
① Mapper 区：继承自 Mapper 类的一个内部类，实现 map() 函数
② Reducer 区：继承自 Reducer 类的一个内部类，实现 reduce() 函数
③ Client 区：程序运行入口
这个结构，也就是 MapReduce 程序编写的基本结构了。编写一个 MapReduce 程序，我们程序猿只需要实现 map() 和 reduce() 程序。
3.3 自实现 WordCount
我们按照 MapReduce 程序的编写情况，实现一个我们自己的 WordCount 程序。
① 创建一个 Java Project
② 导入如下 jar 包
注：其中 hadoop-hdfs-2.7.1.jar 和 hadoop-mapreduce-client-core-2.7.1.jar 是编写程序需要的 jar 包，其他的 jar 包是我们在 linux 下运行程序需要的依赖 jar，也就是环境需要的 jar 包。
③ 编写程序：WordCount.java
import java.io.IOException;
import java.util.StringTokenizer;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
/**
* WordCount：MapReduce初级案例，按八股文的结构遍写
* @author johnnie
*
*/
public class WordCount {
/**
* Mapper区: WordCount程序 Map 类
* Mapper<KEYIN, VALUEIN, KEYOUT, VALUEOUT>:
* | | | |
* 输入key类型 输入value类型 输出key类型 输出value类型
* @author johnnie
*
*/
public static class TokenizerMapper extends Mapper<LongWritable, Text, Text, IntWritable>{
// 输出结果
private Text word = new Text(); // KEYOUT
// 因为若每个单词出现后，就置为 1，并将其作为一个<key,value>对，因此可以声明为常量，值为 1
private final static IntWritable one = new IntWritable(1); // VALUEOUT
/**
* value 是文本每一行的值
* context 是上下文对象
*/
@Override
public void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
// 获取每行数据的值
String lineValue = value.toString();
// 分词：将每行的单词进行分割,按照" \t\n\r\f"(空格、制表符、换行符、回车符、换页)进行分割
StringTokenizer tokenizer = new StringTokenizer(lineValue);
// 遍历
while (tokenizer.hasMoreTokens()) {
// 获取每个值
String wordValue = tokenizer.nextToken();
// 设置 map 输出的 key 值
word.set(wordValue);
// 上下文输出 map 处理结果
context.write(word, one);
}
}
}
/**
* Reducer 区域：WordCount 程序 Reduce 类
* Reducer<KEYIN, VALUEIN, KEYOUT, VALUEOUT>:Map 的输出类型，就是Reduce 的输入类型
* @author johnnie
*
*/
public static class IntSumReducer extends Reducer<Text, IntWritable, Text, IntWritable> {
// 输出结果：总次数
private IntWritable result = new IntWritable();
@Override
public void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException {
int sum = 0; // 累加器，累加每个单词出现的总次数
// 遍历values
for (IntWritable val : values) {
sum += val.get(); // 累加
}
// 设置输出 value
result.set(sum);
// 上下文输出 reduce 结果
context.write(key, result);
}
}
// Driver 区：客户端
public static void main(String[] args) throws Exception {
// 获取配置信息
Configuration conf = new Configuration();
// 创建一个 Job
Job job = Job.getInstance(conf, "word count"); // 设置 job name 为 word count
// job = new Job(conf, "word count"); // 过时的方式
// 1. 设置 Job 运行的类
job.setJarByClass(WordCount.class);
// 2. 设置Mapper类和Reducer类
job.setMapperClass(TokenizerMapper.class);
job.setReducerClass(IntSumReducer.class);
// 3. 获取输入参数，设置输入文件目录和输出文件目录
FileInputFormat.addInputPath(job, new Path(args[0]));
FileOutputFormat.setOutputPath(job, new Path(args[1]));
// 4. 设置输出结果 key 和 value 的类型
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(IntWritable.class);
// job.setCombinerClass(IntSumReducer.class);
// 5. 提交 job，等待运行结果，并在客户端显示运行信息，最后结束程序
boolean isSuccess = job.waitForCompletion(true);
// 结束程序
System.exit(isSuccess ? 0 : 1);
}
}
④ 编写 Main.java：我们配置一个程序执行入口，方便以后添加其他的示例，做成官方 jar 的样子
⑤ 我们将该项目打包成可执行 jar包：此处我将该 jar 取名为 WordCount.jar
⑥ 利用 FileZilla 将该 jar 包上传到 CenOS6.5 上
⑦ 利用 hadoop jar 命令来执行程序。执行命令：hadoop jar wordcount.jar WordCount ./data/f*.txt /out
注：这种传参方式就是 Linux下参数传递的方式。这里也介绍了我们平时在 Java 程序中 main() 中 args 的使用--就是来接受命令行参数的。
具体的步骤，还是和刚刚一样，准备输入文件，以及指定输出目录。输入文件和输出目录的路径都是在 HDFS 文件系统上的。./data/f*.txt 也和刚刚的 f1.txt 和 f2.txt 差不多。输出结果也不多说了，也差不多。