设为首页 收藏本站
查看: 1338|回复: 0

[经验分享] ubuntu 12.04配置hadoop(二)

[复制链接]

尚未签到

发表于 2015-7-12 10:30:12 | 显示全部楼层 |阅读模式
  配置Hadoop 1.2.1

好吧,书接上回,话说安装完Hadoop1.2.1后,开始琢磨琢磨配置

以下开始进行对配置文件进行简单说明:
Hadoop的各组件都可以用xml文件进行配置。
一般配置的话,主要是三个配置文件

  • core-site.xml:用于配置Common组件的属。
  • hdfs-site.xml:用于配置HDFS的属性,
  •                       HDFS顾名思义Hadoop Distributed File System,Hadoop分布式文件系统。
  • mapred-site.xml:用于配置MapReduce属性。
这些文件都在 $HADOOP_INSTALL的conf目录下可以找到。
注:这里需要另外说明一下:在Hadoop的早期版本中,
只有一个配置文件来配置这三项,叫hadoop_site.xml的配置文件,
后期开始分为三个,一一对应个组件。属性内容不变,仅仅是分开。
另外,在docs目录中还有对应的三个html文件,分别保存着各组件的默认设置。

然后,然后,说明以下Hadoop的运行模式:

Hadoop拥有以下三种运行模式:

第一:独立模式(standalone)或者我喜欢叫他 本地模式(local model)
此模式无需守护进程,所有的程序都在单个的虚拟机上运行。
          由于在本地模式下测试和调试MapReduce程序很方便,所以一般来说比较适用于开发阶段。

第二:伪分布模式(pseudo-distributed model)
顾名思义,一个模拟的小规模的集群,Hadoop守护进程运行在本地环境中。
          一般用作测试环境。

第三:全分布模式(fully distributed model)
这才是真实的,Hadoop守护进程运行在真正的集群环境。
          一般作为产品环境。

注:在无论哪个模式下去运行Hadoop都需要关注两个重要因素:
      1.是否启动Hadoop守护进程,2.是否已经正确配置各属性。
下面这个表里简单列举了三种模式下的所需的最小属性配置集合:
组件名称
属性名称
独立模式
伪分布模式
全分布模式
Common
fs.default.name
file:///
(默认)
hdfs://localhost/
hdfs://namenode/
HDFS
dfs.replication
N/A
1
3
(默认)
MapReduce
mapred.job.tracker
local
(默认)
localhost:8021
jobtracker:8021

那么,那么,说一下三种模式下的配置:

本机模式:
一般Hadoop安装后默认属性就是本地模式(独立模式),所以一般来说,不用再非二遍事来进行更多的配置。
三个配置文件内容如下:(里面其实啥也木有)
               -----core-site.xml-----

               
               
               
               
               
               -----mapred-site.xml-----

               
               
               
               -----mapred-site.xml-----

               
               
               
               
伪分布模式:
三个配置配置文件内容如下:
               -----core-site.xml-----

               
               
               
                    
                         fs.default.name
                         hdfs://localhost/
                    
               
               
               -----mapred-site.xml-----

               
               
                    
                         dfs.replication
                         1
                    
               
               -----mapred-site.xml-----

               
               
               
                    
                         mapred.job.tracker
                         localhost:8021
                    
               
全分布模式:
三个配置配置文件内容如下:
               -----core-site.xml-----

               
               
               
                    
                         fs.default.name
                         hdfs://namenode/
                    
               
               
               -----mapred-site.xml-----

               
               
                    
                         dfs.replication
                         3
                    
               
               -----mapred-site.xml-----

               
               
               
                    
                         mapred.job.tracker
                         jobtracker:8021
                    
               

详细的配置说明在后面说明。
恩,暂时写到这里。
by Markboo
  

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-85725-1-1.html 上篇帖子: Hadoop中文件读写(Java) <转> 下篇帖子: 从wordcount 开始 mapreduce (C++\hadoop streaming模式)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表