查看: 862|回复: 0

[经验分享] Hadoop权威指南--读书笔记

尚未签到

发表于 2015-7-15 12:14:39 | 显示全部楼层 |阅读模式

　　第二章 MapReduce简介

一个理想的分片大小往往是一个HDFS块的大小；map任务的执行节点和输入数据的存储节点是同一节点，hadoop的性能达到最佳（数据局部性优化，避免数据网络传输）。
MapReduce流程概括：从文件中读入一行数据，map函数处理，返回键值对；系统对map结果进行排序，如果有多个reducer，map任务会对输出进行分区，为每个reduce任务创建一个分区。如果指定了combiner，map之后会先运行combiner，combiner的结果传递给reducer，combiner可以减少map与reduce之间的数据传输量。reducer首先需要对接收到的数据进行shuffle，之后运行reducer函数返回结果。(具体见2.4的讲解和图）想了解mapreduce代码可以看2.3.2的代码。　　具体见Hadoop学习总结之三：Map-Reduce入门

　　
　　第三章 Hadoop分布式文件系统
　　具体见Hadoop 学习总结之一：HDFS简介(zz写的很不错）

　　

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-86934-1-1.html 上篇帖子：【关注】雅虎架构师谈MapReduce和Hadoop的未来下篇帖子： hadoop运行故障问题解决1——datanode节点启动后自动关闭

使用道具举报