dfdi 发表于 2015-11-11 11:00:20

hadoop 0.20.2 wordcount 示例

在安装hadoop 之前一定要先安装免登陆的 ssh.可以参看安装ssh 的例子。http://blog.iyunv.com/liuc0317/article/details/8621879
安装 hadoop 伪分布式 参看 http://blog.iyunv.com/liuc0317/article/details/8613586
写这篇blog 是见解 http://www.cnblogs.com/xia520pi/archive/2012/05/16/2504205.html的例子
接下来我们开始学习hadoop 为给我们提供的 wordcount 的例子。
第一步:查看一下 hadoop给我们提供了哪些命令,和哪些例子。
       进入hadoop 的目录下, cd hadoop 0.20.2
然后运行 ./bin/hadoop见图h-jar.jpg
  有一个 -jar 的命令


  再接着运行 ./bin/hadoop jar hadoop-0.20.2-examples.jar见图h-wordcount


这就是我们hadoop的 wordcount(类似于java 的helloword)
第二步:我们按示例的要求提供一个输入的input 和一个输出的output
      首先:在当前用户下创建一个file文件夹 mkdir file
      进行 file 文件夹 创建两个文件 file01.txt 和file02.txt
      cd file,touch file01.txt,touch file02.txt
  可以使用gedit 可是 vi 给他们添上内容。 见图hfile.jpg


第三步:在hadoop file system 上创建一个 上传文件夹 input
         ./bin/hadoop fs -mkdir input
第四步:把file文件夹下的两个文件上传到 新建的input文件夹下,并且显示input下的文件。
          ./bin/hadoop fs -put ~/file/file*.txt input
./bin/hadoop fs -ls input
  见hinput.jpg


第五步:运行hadoop 给我们提供的示例,见图h07.jpg
      ./bin/hadoop jar hadoop-0.20.2-examples.jarwordcount input output
  解释一下这个命令 ./bin/hadoop jar 运行一个jar 的命令 示例为 hadoop-0.20.2-examples.jar名字叫 wordcount 输入文件夹是input 输出是 output文件夹


  看一下运行的最后结果:


         版权声明:本文为博主原创文章,未经博主允许不得转载。
页: [1]
查看完整版本: hadoop 0.20.2 wordcount 示例