设为首页 收藏本站
查看: 943|回复: 0

[经验分享] hadoop的安装与配置

[复制链接]

尚未签到

发表于 2018-10-29 08:55:30 | 显示全部楼层 |阅读模式
  Hadoop版本
  Hadoop 有两个主要版本,Hadoop 1.x.y 和 Hadoop 2.x.y 系列.1.x.y大数公司已经更新Hadoop 2.x 版本,本教程均可适用.
  基本环境:Centos 6.5   jdk1.7.0_67   hadoop2.5.1
  一、配置jdk
  1)下载jdk 版本
  本教程试用jdk-7u67-linux-x64.war.gz
  2)创建解压目录
  mkdir /usr/local/java
  3)移动jdk到/usr/local/java
  mv jdk-7u67-linux-x64.war.gz  /usr/local/java
  4)解压jdk
  tar -xvf jdk-7u67-letcinux-x64.war.gz
  5)配置环境
  5.1)编辑 ~/.bash_profile文件 (可以在/etc/profile配置,但是不建议)
  1.vi   ~/.bash_profile
  2.JAVA_HOME =/usr/local/java/jdk1.7.0_67
  3.CLASSPATH=. :$JAVA_HOME/lib/*.jar
  4.PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin
  5.退出编辑,并 source ~/.bash_profile
  6.验证  java -version
  二、安装配置hadoop
  1)下载hadoop 版本
  本教程使用hadoop2.5.1.war.gz
  2)创建解压目录
  mkdir /usr/local/hadoop
  3)移动hadoop到/usr/local/hadoop
  mv hadoop2.5.1.war.gz  /usr/local/hadoop
  4)解压hadoop
  tar -xvf hadoop2.5.1.war.gz
  5)配置环境
  5.1)编辑~/.bash_profile文件
  1.vi   ~/.bash_profile
  2.HADOOP_HOME=/usr/local/hadoop2.6.4
  4.PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/jre/bin
  5.退出编辑,并 source ~/.bash_profile
  5.2)配置etc/hadoop/hadoop-env.sh,etc/hadoop/core-site.xml,hdfs-site.xml ,etc/hadoop/salves
  http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-common/SingleCluster.html
  1.配置hadoop-env.sh
  export JAVA_HOME=/*your jdk的目录*/
  2.配置core-site.xml  (可以参考官方文档)
     
  fs.defaultFS
  hdfs://localhost:9000  /** your的主机名**/
  
  
  3.配置hdfs-site.xml
  
  
  dfs.replication
  1
  
  
  
  4.配置salves
  your的机主名  6)关闭临时防火墙
  1)service iptables stop
  2)chkconfig iptables off
  7)格式化
  hadoop namenode -format
  8)验证
  start-hdfs.sh
8)jps产看状态  2135 NodeManager
  5087 SecondaryNameNode
  2054 ResourceManager
  9053 Jps
  4891 DataNode
  7489 NameNode
  9) 网页查看
  yourip:50070  (windows 没有添加host ,就用IP地址)



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-627773-1-1.html 上篇帖子: Hadoop项目之基于CentOS7的Cloudera 5.10.1(CDH)的安装部署 下篇帖子: Hadoop之RPC简单使用(远程过程调用协议)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表