设为首页 收藏本站
查看: 631|回复: 0

[经验分享] ubuntu下安装hadoop

[复制链接]

尚未签到

发表于 2015-7-13 08:41:09 | 显示全部楼层 |阅读模式
  
  一.前言
  Hadoop是一个由Apache基金会所开发的分布式系统基础架构,说白了就是一个庞大的任务,一台机器处理不过来,就分割成若干个子任务,让若干个机器来处理,最后将结果汇总。刚接触hadoop可能理解的不透彻,但是这都不重要,先把它安装下来再说,这里把我的整个安装步骤纪录下来。
  二.安装Hadoop
    1.创建一个专门的hadoop管理员用户
    命令行执行:
    //创建组用户
    sudo addgroup hadoop

    sudo adduser -ingroup hadoop hadoop  
    //配置权限
    sudo vim /etc/sudoers 
    文件内添加 hadoop  ALL=(ALL:ALL) ALL
    //创建hadoop文件夹并将属主用户改为hadoop
    sudo mkdir /hadoop
    sudo chown -R hadoop:hadoop hadoop
  
    2.配置hadoop用户ssh无密码登录
    命令行执行:
    su hadoop
    ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
    cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
    用ssh localhost测试一下是否还需输密码登录,如果还要密码,可能是根目录的权限问题。
    
    3.安装jdk
    首先java -version看一下是否安装java环境,如出现jvm版本号信息,则表示已有java环境,我的是会出现系统默认安装的openjdk,这里我把它卸载重新安装了jdk,步骤如下:

    卸载自带的openjdk:
    sudo apt-get purge openjdk*
    进入oracle官网http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html下载适合版本的jdk
    将安装包jdk-8u45-linux-i586.gz解压并copy到/usr/java下
    sudo tar -zxvf jdk-8u45-linux-i586.gz
    cp -r jdk-8u45-linux-i586.gz /usr/java
    配置环境变量:
    sudo vim /etc/profile

    写入:  
  export JAVA_HOME=/usr/java/jdk1.8.0 _45
  export JRE_HOME=${JAVA_HOME}/jre
  export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
  export PATH=${PATH}:${JAVA_HOME}/bin:${JRE_HOME}/bin
  保存退出执行
  source /etc/profile
  修改系统jdk:
    命令行执行

  sudo update-alternatives --install /usr/bin/java java /usr/java/jdk1.8.0 _45/bin/java 300
  sudo update-alternatives --install /usr/bin/javac javac /usr/java/jdk1.8.0 _45/bin/javac 300
  选择你新安装的jdk版本
  sudo update-alternatives --config java
  sudo update-alternatives --config javac
  
  最后再执行java -version看下java版本信息,如果失败可能是你安装的jdk不是你系统类型匹配的版本


  4.安装hadoop  官网下载hadoop,我下载的是hadoop-1.2.1.tar.gz
  解压到之前新建的hadoop文件夹里
  配置hadoop环境变量:  
    export HADOOP_HOME_WARN_SUPPRESS=1
  export HADOOP_HOME=/hadoop/hadoop-1.2.1
    export PATH=${PATH}:${HADOOP_HOME}/bin:${JAVA_HOME}/bin:${JRE_HOME}/bin
  
  进入conf文件夹更改4个配置文件:
    1.hadopp-env.sh
     DSC0000.png

  
    2.mapred-site.xml
     DSC0001.png
  
  
    3.core-site.xml
     DSC0002.png
  
  
   4.hdfs-site.xml
DSC0003.png
  
  这几个文件都只是一些简单的默认配置
  格式化hdfs:
  命令行执行
  $HADOOP_HOME/bin/hadoop namenode -format
  出现下图即成功
   DSC0004.png


  启动hadoop:
  命令行执行
  $HADOOP_HOME/bin/start-all.sh
  出现下图则成功
   DSC0005.png   
  
  停止hadoop的命令为:
  $HADOOP_HOME/bin/stop-all.sh

至此,hadoop的简单搭建就完成了,接下来就是深入了解~~
  

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-85974-1-1.html 上篇帖子: hadoop下的Pipes(用C++进行hadoop程序开发) 下篇帖子: hadoop简介---140个Google面试问题
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表