设为首页 收藏本站
查看: 544|回复: 0

[经验分享] Ubuntu11.10下安装Hadoop1.0.0(单机伪分布式)

[复制链接]

尚未签到

发表于 2018-5-7 11:00:32 | 显示全部楼层 |阅读模式
  环境配置:Ubuntu11.10,Hadoop1.0.0
  安装ssh
  1
  apt-get install ssh
  安装rsync
  1
  apt-get install rsync
  配置ssh免密码登录
  1
  ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
  2
  cat ~/.ssh/id_dsa.pub >>~/.ssh/authorized_keys
  验证是否成功
  1
  ssh localhost
  下载Hadoop1.0.0,JDK
  新建linux 终端,建立app目录,Java和Hadoop都将安装在此目录中。
  1
  mkdir /home/app
  接下来,安装Java和Hadoop,Hadoop解压即可。
  1
  cd /home/app
  2
  chmod +x jdk-6u30-linux-i586.bin
  3
  ./jdk-6u30-linux-i586.bin
  4
  5
  tar zxf hadoop-1.0.0-bin.tar.gz
  配置JDK环境变量
  1
  vi /etc/profile
  增加下面语句到最后
  1
  export JAVA_HOME=/home/app/jdk1.6.0_30
  2
  export PATH=$JAVA_HOME/bin:$PATH
  3

  export>  接下来开始配置Hadoop
  进入Hadoop目录
  1
  cd /home/app/hadoop-1.0.0
  修改配置文件,指定JDk安装路径
  1
  vi conf/hadoop-env.sh
  1
  export JAVA_HOME=/home/app/jdk1.6.0_30
  修改Hadoop核心配置文件core-site.xml,这里配置的是HDFS的地址和端口号
  1
  vi conf/core-site.xml
  1
  <configuration>
  2
  <property>
  3
  <name>fs.default.name</name>
  4
  <value>hdfs://localhost:9000</value>
  5
  </property>
  6
  </configuration>
  修改Hadoop中HDFS的配置,配置的备份方式默认为3,因为安装的是单机版,所以需要改为1
  1
  vi conf/hdfs-site.xml
  1
  <configuration>
  2
  <property>
  3
  <name>dfs.replication</name>
  4
  <value>1</value>
  5
  </property>
  6
  </configuration>
  修改Hadoop中MapReduce的配置文件,配置的是JobTracker的地址和端口
  1
  vi conf/mapred-site.xml
  1
  <configuration>
  2
  <property>
  3
  <name>mapred.job.tracker</name>
  4
  <value>localhost:9001</value>
  5
  </property>
  6
  </configuration>
  接下来,启动Hadoop,在启动之前,需要格式化Hadoop的文件系统HDFS,进入Hadoop文件夹,输入下面命令
  1
  bin/hadoop namenode -format
  然后启动Hadoop,输入命令
  1
  bin/start-all.sh
  这个命令为所有服务全部启动。
  最后,验证Hadoop是否安装成功。打开浏览器,分别输入一下网址:
  http://localhost:50030    (MapReduce的Web页面)
  http://lcoalhost:50070    (HDfS的web页面)
  如果都能查看,说明安装成功。

  Hadoop分别从三个角度将主机划分为两种角色:
  第一,划分为master和slave,即主人与奴隶
  第二,从HDFS的角度,将主机划分为namenode和datanode(在分布式文件系统中,目录的管理很重要,管理目录的就相当于主人,而namenode就是目录管理者)。
  第三,从MapReduce的角度,将主机划分为JobTracker和TaskTracker(一个job经常被划分为多个task,从这个角度不难理解它们之间的关系)。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-456948-1-1.html 上篇帖子: ubuntu中apache添加虚拟主机时出现的错误 下篇帖子: Ubuntu更新音视频编解码插件
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表