设为首页 收藏本站
查看: 1394|回复: 0

[经验分享] Flume-NG 使用首记

[复制链接]

尚未签到

发表于 2015-9-17 07:03:59 | 显示全部楼层 |阅读模式
  第一步,配置Cloudera-CDH4软件源,见Cloudera官网文档。略……
  第二步,安装Flume客户端
  yum -y install flume-ng
  第三步,配置Flume
  1、Flume使用经典的alternatives进行多版本管理,查看/添加配置路径:
  # alternatives --display flume-ng-conf
flume-ng-conf - status is auto.      
link currently points to /etc/flume-ng/conf.empty      
/opt/cloudera/parcels/CDH-4.2.0-1.cdh4.2.0.p0.10/etc/flume-ng/conf.empty - priority 10      
/etc/flume-ng/conf.empty - priority 30      
Current `best' version is /etc/flume-ng/conf.empty.
  2、更新客户端配置文件 /etc/flume-ng/conf/flume.conf :
  # 定义Agent1对应的属性名称     
agent1.sources = ngrinder      
agent1.sinks = hdfs4log      
agent1.channels = memory4log      
# 定义日志的来源,下例为Ngrinder的启动日志      
agent1.sources.ngrinder.type = exec      
agent1.sources.ngrinder.command = tail -F /data/log/ngrinder/startup.log      
agent1.sources.ngrinder.channels = momery01      
# 指定日志存储的目标地址,下例为直接写到HDFS中      
agent1.sinks.hdfs4log.type = hdfs      
agent1.sinks.hdfs4log.hdfs.path = hdfs://hdfs.kisops.org:8020/flume/ngrinder      
agent1.sinks.hdfs4log.channel = momery4log      
# 定义日志缓冲区,方便在网络阻塞时日志可以延时输出      
agent1.channels.memory4log.type = memory      
agent1.channels.memory4log.capacity = 1000      
agent1.channels.memory4log.transactionCapacity = 100
  3、启动Flume客户端:
  su -m -c 'flume-ng agent -n agent1 -f /etc/flume-ng/conf/flume.conf' hdfs
  4、验证:重启Ngrinder;查看HDFS对应目录是否有数据生成。
  5、测试环境
  # flume-ng version     
Flume 1.3.0-cdh4.2.1      
Source code repository: https://git-wip-us.apache.org/repos/asf/flume.git      
Revision: 68867f41ba0906cc4050efade51afca563f0e65b      
Compiled by jenkins on Mon Apr 22 13:07:14 PDT 2013      
From source with checksum a341b20667cda79e8561f388a94a5168
  # uname -a
  Linux CentOS6.4 2.6.32-358.2.2.el6.x86_64

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-114557-1-1.html 上篇帖子: Flume学习——Flume的架构 下篇帖子: flume日志采集
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表