设为首页 收藏本站
查看: 930|回复: 0

[经验分享] 1.Hadoop的安装

[复制链接]

尚未签到

发表于 2018-10-31 07:23:10 | 显示全部楼层 |阅读模式
  一台笔记本上,虚拟机安装三个
  192.168.80.11作为namenode
  192.168.80.12
  192.168.80.13两个字节点
  软件:hadoop1.1.2、jdk1.6.0_24、vmware10
  (安装记录,一次成功)
  1.首先修改每台机器的名字
  /etc/sysconfig/network
  进行修改
  hostname进行验证
  2.修改每台机器的IP,直接通过系统菜单设置
  重启网卡:
  service netwokr stop;
  service netwokr start;
  ifconfig进行验证
  3.配置hosts文件(必须的)
  位置:/etc/hosts
  格式:
  192.168.80.11 master
  192.168.80.12 slave1
  192.168.80.13 slave12
  4.SSH无密码验证
  在需要ssh连接的机器上以root权限修改/etc/ssh/sshd_config下的三行,去掉#注释
  RSAAuthentication yes
  PubkeyAuthentication yes
  AuthorizedKeysFile .ssh/authorized_keys
  在每台机器下执行命令:ssh-keygen -t rsa生成密钥在~/.ssh下
  要求树状结构:master节点能够找到每个slave节点,每个slave节点能够找到master
  使用

  scp>
  scp>  然后在master的.ssh下:

  cp>  cat s1>>authorized_keys
  cat s2>>authorized_keys
  将authorized_keys发给每个slave一份
  最后:
  给.ssh文件夹授权:
  chmod 700 .ssh
  给authorized_keys文件授权(必须的):
  chmod 600 authorized_keys
  使用ssh IP测试是否成功
  5.安装JDK
  先给jdk的安装文件授权:chmod u+x jdk……
  安装命令:./jdk……
  然后配置环境变量:~/.bash_profile
  export JAVA_HOME=~/jdk1.6.0_24
  export HADOOP_HOME=~/hadoop

  export>  export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/lib:$HADOOP_HOME/bin
  执行source .bash_profiel使修改生效
  6.安装Hadoop
  先授权:chmod u+x hadoop-1.1.2……
  解压:tar -zxvf hadoop-1.1.2.tar.gz
  hadoop文件夹改名:mv hadoop-1.1.2 hadoop
  环境变量的配置,同JDK
  7.hadoop配置
  首先在~/hadoop下建一个tmp文件夹:mkdir tmp
  配置文件:
  (1)hadoop-env.sh:export JAVA_HOME=~/jdk1.6.0_24
  (2)core-site.xml:
  
  
  //临时文件夹
  hadoop.tmp.dir
  /home/hadoop/hadoop/tmp
  
  
  //HDFS的地址和端口号
  fs.default.name
  hdfs://192.168.80.11:9000
  
  
  (3)hdfs-site.xml:
  
  
  //副本数量,默认为3
  dfs.replication
  2
  
  
  (4)mapred-site.xml:jobTracker的地址和端口号
  
  
  mapred.job.tracker
  http://192.168.80.11:9001
  
  
  8.配置masters文件
  master
  9 .配置slaves文件(master主机特有的)
  slave1
  slave2
  master(此处如果加上master,则表示master即做namenode,又做datanode)
  10.格式化namenode
  hadoop namenode -format
  11.启动hadoop集群
  先关闭所有机器的防火墙
  chkconfig iptables off;永久关闭,重启不影响
  service iptables off;//临时的
  启动命令:start-all.sh
  关闭命令:stop-all.sh
  可以使用jps命令查看启动的JVM进程
  可以使用hadoop dfsadmin -report;查看整个hadoop集群的状态
  可以使用网页进行查看:http://192.168.80.11:50030和http://192.168.80.11:50070
  当然,安装的时候,也可以先安装一个,然后使用scp复制到其他机器上,然后修改不同的地方。
  hadoop的安装模式:
  hadoop dfsadmin -safenode leave;离开安全模式
  小褚2014年7月8日于上地五街方正大厦


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-628648-1-1.html 上篇帖子: eclipse下hadoop应用开发有感 下篇帖子: hadoop Unexpected end of input stream 错误
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表