查看: 1110|回复: 0

[经验分享] Hadoop+hive集群安装部署（二）

尚未签到

发表于 2018-10-31 12:44:04 | 显示全部楼层 |阅读模式

　　上一节介绍了Hadoop 集群的部署过程，这一节我们来用Python创建一个map/reduces过程来分析IIS日志
　　日志文件为附件：
　　map脚本advanceiislog.py 内容为：
　　#!/usr/bin/python2.4
　　#coding=utf8
　　import fileinput
　　import glob
　　import string
　　import sys
　　#for line in fileinput.input(glob.glob("/home/hadoop/iis_log/*.log")):
　　for line in sys.stdin:
　　line = line.strip() # 去掉line的两头空格，如果不去掉，插入hive的表中会有很多空记录
　　print string.upper(line)
　　reduces脚本advanceiislogparser.py 附件中，记得修改后缀名
　　执行过程为：
　　/home/hadoop/hadoop/bin/hadoop jar /home/hadoop/hadoop/contrib/streaming/hadoop-streaming-1.2.0.jar -file mapiislog.py -mapper mapiislog.py -file advanceiislogparser.py -reducer advanceiislogparser.py -input /home/iis_log/survey.beisen.com/20130705/*.log -output /home/iis_log/survey.beisen.com/20130705/result0705
　　查看结果：
　　/home/hadoop/hadoop/bin/hadoop dfs -cat /home/iis_log/survey.beisen.com/20130705/result0705/part-00000
　　附件里为处理后的结果一部分！！！
　　下一节讲介绍hive集群的部署过程

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-628985-1-1.html 上篇帖子： Hadoop+hive 集群安装部署（一）下篇帖子： Hadoop配置HDFS分布式文件系统并映射为本地磁盘

使用道具举报