设为首页 收藏本站
查看: 1592|回复: 0

[经验分享] flume 参考文档 (三)

[复制链接]

尚未签到

发表于 2015-9-16 13:35:40 | 显示全部楼层 |阅读模式
  Flume Source
  
  
  1、Flume’s Tiered Event Sources
  collectorSource[(port)]
  Collector source,监听端口汇聚数据
  autoCollectorSource
  通过master协调物理节点自动汇聚数据
  logicalSource
  逻辑source,由master分配端口并监听rpcSink
  
  
  
  2、Flume’s Basic Sources
  null
  console
  监听用户编辑历史和快捷键输入,只在node_nowatch模式下可用
  stdin
  监听标准输入,只在node_nowatch模式下可用,每行将作为一个event source
  rpcSource(port)
  由rpc框架(thrift/avro)监听tcp端口
  text("filename")
  一次性读取一个文本,每行为一个event
  tail("filename"[, startFromEnd=false])
  每行为一个event。监听文件尾部的追加行,如果startFromEnd为true,tail将从文件尾读取,如果为false,tail将从文件开始读取全部数据
  multitail("filename"[, file2 [,file3… ] ])
  同上,同时监听多个文件的末尾
  tailDir("dirname"[, fileregex=".*"[, startFromEnd=false[, recurseDepth=0]]])
  监听目录中的文件末尾,使用正则去选定需要监听的文件(不包含目录),recurseDepth为递归监听其下子目录的深度
  seqfile("filename")
  监听hdfs的sequencefile,全路径
  syslogUdp(port)
  监听Udp端口
  syslogTcp(port)
  监听Tcp端口
  syslogTcp1(port)
  只监听Tcp端口的一个链接
  execPeriodic("cmdline", ms)
  周期执行指令,监听指令的输出,整个输出都被作为一个event
  execStream("cmdline")
  执行指令,监听指令的输出,输出的每一行被作为一个event
  exec("cmdline"[, aggregate=false[,restart=false[,period=0]]])
  执行指令,监听指令的输出,aggregate如果为true,整个输出作为一个event如果为false,则每行作为一个event。如果restart为true,则按period为周期重新运行
  synth(msgCount,msgSize)
  随即产生字符串event,msgCount为产生数量,msgSize为串长度
  synthrndsize(msgCount,minSize,maxSize)
  同上,minSize – maxSize
  nonlsynth(msgCount,msgSize)
  asciisynth(msgCount,msgSize)
  Ascii码字符
  twitter("username","pw"[,"url"])
  尼玛twitter的插件啊
  irc("server",port, "nick","chan")
  scribe[(+port)]
  Scribe插件
  report[(periodMillis)]
  生成所有physical node报告为事件源

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-114533-1-1.html 上篇帖子: flume 参考文档 (四) 下篇帖子: flume 参考文档 (二)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表