查看: 1402|回复: 0

[经验分享] Flume Channel Selector

[复制链接]

rh007

尚未签到

发表于 2015-9-17 08:10:36 | 显示全部楼层 |阅读模式

　　Flume 基于Channel Selector可以实现扇入、扇出。

　　同一个数据源分发到不同的目的，如下图。

　　在source上可以定义channel selector：

1
2
3
4
5
6
7
8
9

a1.sources=r1
...
a1.channels=c1 c2
...
a1.sources.r1.selector.type=multiplexing
a1.sources.r1.selector.header=type
a1.sources.r1.selector.mapping.type1=c1
a1.sources.r1.selector.mapping.type2=c2
...

　　但是这个type变量从哪里来呢？
　　解决方法：
　　1、修改用到的那个source的源码，应用到client端，不同的数据类型添加不同的type
　　2、在source端配置interceptor，通过interceptor在header上设置变量type
　　比如：
　　使用regex_extractor，对传过来的数据进行处理，提取出type值（如果可以的话，可以在client端的数据格式添加type值，方便使用regex_extractor提取出来）。

　　3、在source端自定义interceptor，在interceptor里对处理变量type
　　

　　

　　

　　

来自为知笔记(Wiz)

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-114612-1-1.html 上篇帖子： command shell(flume command) 下篇帖子： Flume Sinks

使用道具举报