设为首页 收藏本站
查看: 678|回复: 0

[经验分享] 总算在window下运行起来了hadoop小记

[复制链接]

尚未签到

发表于 2016-12-11 08:17:03 | 显示全部楼层 |阅读模式
  首先安装JDK 直接安装到C盘符下就行了
  然后安装cygwin,在选择openssl,openssh
  准备在elipse下编译的 还需要安装“BaseCategory”下的“GUN SED“
  建议还安装
  还建议将“EditorsCategory”下的vim安装,以方便在Cygwin上直接修改配置文件;“DevelCategory”下的subversion建议安装,
  然后把JDK和cygwin安装路径配置环境变量
  需要配置的环境变量包括PATH和JAVA_HOME:JAVA_HOME指向安装目录,Cygwin的bin目录,以及Cygwin的usr\bin目录都必须添加到PATH环境变量中
  我的用的是hadoop-0.20.1下面是下载的 
  http://dl.dbank.com/c0b3kwezsa
点击桌面上的
Cygwin
图标,启动
Cygwin
,执行
ssh-host-config
命令
  点击桌面上的Cygwin图标,启动Cygwin,执行ssh-host-config命令 查看是否SSH 执行成功
  再查看我的电脑---服务----启动CYGWIN sshd服务
  在执行ssh-keygen命令生成密钥文件
  然后在进入 Cygwin/home/用户文件夹/ 
  执行ls -a 命令 会看到一个隐藏的.ssh 文件夹 没有自己创建
  再执行cp id_rsa.pub authorized_keys
  再执行ssh localhost  然后输入yes即可
  失败可以把该文件删除 重新来一次
  然后把下载下来的hadoop 解压到c:/hadoop/run 目录下
  把conf 下的hadoop-env.sh #JAVA_HOME  地#号去掉 填上自己的JDK安装目录
ssh-keygen
  列如我的 export JAVA_HOME=/cygdrive/c/Java/jdk1.6.0_23  前面cygdrive这个必须写。不知道的可以在cygwin 下执行 cd $JAVA_HOME 查看当前路径
ore-site.xml

hdfs-site.xml

mapred-site.xm
  再修改里面的core-site.xml、hdfs-site.xml和mapred-site.xml
  查找自己安装hadoop下面的src文件夹
  core目录下的core-default.xml文件复制到conf目录下,并将core-default.xml文件名改成core-site.xml。修改fs.default.name的值,端口自己定义只要没暂用即可我定义的是localhost:10001
  hdfs目录下的hdfs-default.xml文件复制到conf目录下,并将hdfs-default.xml文件名改成hdfs-site.xml。不需要再做其它修改
  mapred目录下的mapred-default.xml文件复制到D:\hadoop\run\conf目录下,并将mapred-default.xml文件名改成mapred-site.xml。修改mapred.job.tracker的值端口自己定义没用即可 我定义的是localhost:10002
  在回头到自己安装的hadoop/bin下面
  格式化文件节点
  执行./hadoop namenode -format
  在执行./start-all.sh
  如果失败 可以执行./stop-all.sh
  再把上面的重复一次
  成功了可以执行下面
检视分布式文件系统状况,其中 Live Nodes 字段应当显示为正常运行并连接到 namenode服务器的datanode个数
http://192.168.1.113:50070/dfshealth.jsp

本地主机的Hadoop Map / Reduce的管理
检视集群运转状况,其中 Nodes 字段应当显示正常运行并连接到 jobtracker 的 task tracker 个数。
  http://192.168.1.113:50030/jobtracker.jsp 
  -----------暂记

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-312528-1-1.html 上篇帖子: 读书笔记2:Hadoop组件-(3)读与写 下篇帖子: 基于Hadoop Sequencefile的小文件解决方案
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表