查看: 1109|回复: 0

[经验分享] hadoop中mapred.tasktracker.map.tasks.maximum的设置

尚未签到

发表于 2018-11-1 09:32:19 | 显示全部楼层 |阅读模式

　　通过把一部分log已经迁移到Hadoop集群上
　　并由Hive来执行相关的查询
　　hadoop中默认的mapred.tasktracker.map.tasks.maximum设置是2
　　也即：每一个tasktracker同时运行的map任务数为2
　　照此默认设置，查询80天某用户的操作日志，耗时5mins, 45sec
　　经过测试，发现将mapred.tasktracker.map.tasks.maximum设置为节点的cpu cores数目减1比较合适
　　此时的运行效率最高，大概花费3mins, 25sec
　　我们现在的机器都是8核的，所以最终配置如下：
　　
　　mapred.tasktracker.map.tasks.maximum
　　8
　　The maximum number of map tasks that will be run simultaneously by a task tracker.
　　
　　
　　对于mapred.map.tasks（每个job的map任务数）值，hadoop默认值也为2
　　可以在执行hive前，通过set mapred.map.tasks=24来设定
　　但由于使用hive，会操作多个input文件，所以hive默认会把map的任务数设置成输入的文件数目
　　即使你通过set设置了数目，也不起作用…
　　对于mapred.reduce.tasks（每个job的reduce任务数）值，hadoop默认值也为2，最好设为配置参数，你想实现的分块数目。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-629214-1-1.html 上篇帖子： hadoop mapred-site.xml配置下篇帖子： local hadoop设置

使用道具举报