设为首页 收藏本站
查看: 750|回复: 0

[经验分享] 单点搭建hadoop系统

[复制链接]

尚未签到

发表于 2015-7-13 07:49:11 | 显示全部楼层 |阅读模式
  安装JDK
  1.下载jdk1.6.0_20;(下载文件为jdk-6u20-linux-i586.bin);
  2.进入到jdk文件所在目录,由于运行bin文件是需要权限的,所以运行如下命令:chmod u+x jdk-6u20-linux-i586.bin,使得当前用户有权限执行该文件;
  3.在jdk文件所在目录下执行:sudo ./jdk-6u20-linux-i586.bin安装jdk;
  4.执行java -version验证jdk是否安装成功;如果安装成功会输出java的版本信息;
  
  安装Hadoop
5.下载hadoop 0.20.2,下载后文件名是hadoop-1.0.4.tar.gz ,下载地址:http://www.apache.org/dist/hadoop/core/hadoop-0.20.2/;
6.在hadoop文件所在目录下执行tar -zxvf hadoop-1.0.4.tar.gz,安装hadoop(所谓安装就是解压,解压出来里面有些shell脚本等);

安装、配置ssh
7.运行apt-get install openssh-server,安装ssh;
8.配置ssh,使得可以无密码登录访问;指令如下:
    ssh-keygen -t dsa -P ''";
执行完该指令后,在/root/.ssh目录下会出现两个文件:id_dsa和id_dsa.pub文件;
    cat ./id_dsa.pub >> authorized_keys;
然后执行ssh localhost查看是否可以无密码登录,结果出现错误:The authenticity of host 'localhost (127.0.0.1)' can't be established.
ECDSA key fingerprint is 40:2b:3c:88:b0:34:f9:cd:6d:15:b8:7b:c4:f7:02:f9.
Are you sure you want to continue connecting (yes/no)?
通过查阅资料,发现是文件权限问题,然后执行下面的命令修改文件权限:
    chmod 700 /root/.ssh
    chmod 644 /root/.ssh/authorized_keys
执行完上述命令之后,/root/.ssh文件中多了一个文件known_hosts,然后运行ssh localhost,可以无密码登录;

配置Hadoop
9.进入到hadoop安装目录,(我自己的是hadoop-1.0.4/),运行ls看到conf文件夹,这里存放的是配置相关信息;bin文件夹,存放的是可执行的文件;
10.编辑hadoop-env.sh文件添加语句: JAVA_HOME=/opt/jdk1.6.0_20,该路径我笔者机器上jdk的安装路径,如果不清楚jdk的安装路径可以运行命令
which java来查找安装路径;
11.配置core-site.xml文件,文件内容如下:





    fs.default.name
    hdfs://localhost:9000


12.配置hdfs-site.xml文件,文件内容如下:





    dfs.replication
    1


13.配置mapred-site.xml文件,文件内容如下:





    mapred.job.tracker
    localhost:9001



以上工作都完成之后,进入到hadoop-1.0.4/bin目录下,可以看到一些shell脚本等,通过命令sh ./start-all.sh启动hadoop,是不是可以跑啦呢^o^
贴一下运行结果,小纪念一下,o(∩∩)o

starting namenode, logging to /root/jz/hadoop-1.0.4/libexec/../logs/hadoop-root-namenode-lxh-ThinkPad-Edge.out
localhost: starting datanode, logging to /root/jz/hadoop-1.0.4/libexec/../logs/hadoop-root-datanode-lxh-ThinkPad-Edge.out
localhost: starting secondarynamenode, logging to /root/jz/hadoop-1.0.4/libexec/../logs/hadoop-root-secondarynamenode-lxh-ThinkPad-Edge.out
starting jobtracker, logging to /root/jz/hadoop-1.0.4/libexec/../logs/hadoop-root-jobtracker-lxh-ThinkPad-Edge.out
localhost: starting tasktracker, logging to /root/jz/hadoop-1.0.4/libexec/../logs/hadoop-root-tasktracker-lxh-ThinkPad-Edge.out




    

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-85904-1-1.html 上篇帖子: 【hbase0.96】基于hadoop搭建hbase的心得 下篇帖子: [hadoop源码阅读][6]-org.apache.hadoop.ipc-ipc.client
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表