Ubuntu上搭建Hadoop环境

hongleimi

　　单机模式（standalone）
　　单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时，Hadoop无法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时，Hadoop会完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
　　伪分布模式（Pseudo-Distributed Mode）
　　伪分布模式在“单节点集群”上运行Hadoop，其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能，允许你检查内存使用情况，HDFS输入输出，以及其他的守护进程交互。
　　全分布模式（Fully Distributed Mode）
　　Hadoop守护进程运行在一个集群上。
　　版本：Ubuntu 13.04，Hadoop 1.2.0
　　1.添加hadoop用户到系统用户
　　安装前要做一件事——添加一个名为hadoop到系统用户，专门用来做Hadoop测试。
　　~$ sudo addgroup hadoop
　　~$ sudo adduser --ingroup hadoop hadoop
　　现在只是添加了一个用户hadoop，它并不具备管理员权限，因此我们需要将用户hadoop添加到管理员组：
　　~$ sudo usermod -aG admin hadoop
　　2、安装JDK
　　教程很多，参考http://www.linuxidc.com/Linux/2012-11/74189.htm。这里不多说。我安装的是JDK 1.7 64位版本
　　3.安装ssh
　　由于Hadoop用ssh通信，先安装ssh
　　sudo apt-get install openssh-server
　　ssh安装完成以后，先启动服务：
　　sudo /etc/init.d/ssh start
　　启动后，可以通过如下命令查看服务是否正确启动：
　　ps -e | grep ssh

　　建立ssh无密码登录本机.首先要转换成hadoop用户:
　　01.su - hadoop
　　作为一个安全通信协议，使用时需要密码，因此我们要设置成免密码登录，生成私钥和公钥：
　　hadoop@scgm-ProBook:~$ ssh-keygen -t rsa -P ""

　　因为我已有私钥，所以会提示是否覆盖当前私钥。第一次操作时会提示输入密码，按Enter直接过，这时会在～/home/{username}/.ssh下生成两个文件：id_rsa和id_rsa.pub，前者为私钥，后者为公钥，现在我们将公钥追加到authorized_keys中（authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容）：
　　cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
　　现在可以登入ssh确认以后登录时不用输入密码：
　　ssh localhost

　　登出：
　　exit
　　第二次登录：
　　ssh localhost

　　登出：
　　exit
　　这样以后登录就不用输入密码了。
　　4.安装Hadoop
　　到官网下载hadoop源文件，这里选择hadoop 1.2.0
　　解压并放到你希望的目录中。我是放到/usr/local/hadoop
　　sudo tar xzf hadoop-1.2.0.tar.gz
　　sudo mv hadoop-1.2.0 /usr/local/hadoop
　　要确保所有的操作都是在用户hadoop下完成的：
　　sudo chown -R hadoop:hadoop /usr/local/hadoop
　　5.设定hadoop-env.sh(Java 安装路径)
　　进入hadoop目录，打开conf目录下到hadoop-env.sh，添加以下信息：
　　export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64 (视你机器的java安装路径而定)
　　export HADOOP_HOME=/usr/local/hadoop
　　export PATH=$PATH:/usr/local/hadoop/bin
　　并且，让环境变量配置生效source
　　source /usr/local/hadoop/conf/hadoop-env.sh
　　下面是伪分布模式需要的一些配置，继续。
　　6.设定*-site.xml
　　这里需要设定3个文件：core-site.xml,hdfs-site.xml,mapred-site.xml，都在/usr/local/hadoop/conf目录下
　　core-site.xml:  Hadoop Core的配置项，例如HDFS和MapReduce常用的I/O设置等。
　　hdfs-site.xml:  Hadoop 守护进程的配置项，包括namenode，辅助namenode和datanode等。
　　mapred-site.xml： MapReduce 守护进程的配置项，包括jobtracker和tasktracker。
　　首先在hadoop目录下新建几个文件夹
　　01. ~/hadoop$ mkdir tmp
　　02. ~/hadoop$ mkdir hdfs
　　03. ~/hadoop$ mkdir hdfs/name
　　04. ~/hadoop$ mkdir hdfs/data
　　接下来编辑那三个文件：

　　core-site.xml:
　　

　　
fs.default.name
　　
hdfs://localhost:9000
　　

　　

　　
hadoop.tmp.dir
　　
/usr/local/hadoop/tmp
　　

　　

　　hdfs-site.xml:
　　

　　
dfs.replication
　　
1
　　

　　

　　
dfs.name.dir
　　
/usr/local/hadoop/hdfs/name
　　

　　

　　
dfs.data.dir
　　
/usr/local/hadoop/hdfs/data
　　

　　

　　mapred-site.xml:
　　

　　
mapred.job.tracker
　　
localhost:9001
　　

　　

　　7.格式化HDFS
　　通过以上步骤，我们已经设定好Hadoop单机测试到环境，接着就是启动Hadoop到相关服务，格式化namenode,secondarynamenode,tasktracker:
　　source /usr/local/hadoop/conf/hadoop-env.sh
　　hadoop namenode -format

　　8.启动Hadoop
　　接着执行start-all.sh来启动所有服务，包括namenode,datanode，start-all.sh脚本用来装载守护进程。
　　01.hadoop@Ubuntu:/usr/local/hadoop$ cd bin
　　02.hadoop@ubuntu:/usr/local/hadoop/bin$ start-all.sh

　　用Java的jps命令列出所有守护进程来验证安装成功
　　hadoop@ubuntu:/usr/local/hadoop$ jps
　　出现如下列表，表明成功

　　9.检查运行状态
　　所有的设置已完成，Hadoop也启动了，现在可以通过下面的操作来查看服务是否正常，在Hadoop中用于监控集群健康状态的Web界面：
　　http://localhost:50030/    - Hadoop 管理介面
　　http://localhost:50060/    - Hadoop Task Tracker 状态
　　http://localhost:50070/    - Hadoop DFS 状态
　　Hadoop 管理介面：

Hadoop Task Tracker 状态：

　　Hadoop DFS 状态：
　　至此，hadoop的伪分布模式已经安装成功.
　　当Hadoop结束时，可以通过stop-all.sh脚本来关闭Hadoop的守护进程
　　hadoop@ubuntu:/usr/local/hadoop$ bin/stop-all.sh
　　10.结语
　　单机模式和伪分布模式均用于开发和调试的目的。真实Hadoop集群的运行采用的是第三种模式，即全分布模式。