查看: 2043|回复: 0

[经验分享] Hadoop生态图谱

[复制链接]

孤独750

尚未签到

发表于 2018-10-31 12:30:25 | 显示全部楼层 |阅读模式

　　当下Hadoop已经成长为一个庞大的体系，貌似只要和海量数据相关的，没有哪个领域缺少Hadoop的身影，下面是一个Hadoop生态系统的图谱，详细的列举了在Hadoop这个生态系统中出现的各种数据工具。

　　这一切，都起源自Web数据爆炸时代的来临
　　数据抓取系统－ Nutch
　　海量数据怎么存，当然是用分布式文件系统－ HDFS
　　数据怎么用呢，分析，处理
　　MapReduce框架，让你编写代码来实现对大数据的分析工作
　　非结构化数据（日志）收集处理－ fuse,webdav, chukwa, flume, Scribe
　　数据导入到HDFS中，至此RDBSM也可以加入HDFS的狂欢了－ Hiho, sqoop
　　MapReduce太麻烦，好吧，让你用熟悉的方式来操作Hadoop里的数据 – Pig, Hive, Jaql
　　让你的数据可见－ drilldown, Intellicus
　　用高级语言管理你的任务流 – oozie, Cascading
　　Hadoop当然也有自己的监控管理工具 – Hue, karmasphere, eclipse plugin, cacti, ganglia
　　数据序列化处理与任务调度 – Avro, Zookeeper
　　更多构建在Hadoop上层的服务 – Mahout, Elastic map Reduce
　　OLTP存储系统 – Hbase

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-628974-1-1.html 上篇帖子： centos6.4用cloudera manager安装hadoop2.0.0-cdh4.3.0集群(二) 下篇帖子： VMware vSphere将支持运行Hadoop

使用道具举报