设为首页 收藏本站
查看: 857|回复: 0

[经验分享] 关于CDH5.11.0自带kafka 0.10 bootstrap

[复制链接]

尚未签到

发表于 2019-1-31 09:43:45 | 显示全部楼层 |阅读模式
  近日需要在项目用到kafka,然后本地使用cdh集成的kafka 进行安装调试,以及些样例代码,sparkstreaming 相关调用kafka 的代码使用的原始的api 而没有走zookeeper,虽然消费者能启动,但无法消费内容。
  开始我使用shell下的zk方式是可以消费误认为kafka也是没有问题的,后来想了一下是否shell也可能使用api来访问看下情况。
  之后我使用bootstrap-server的方式在shell下进行测试,果然后些的样例代码一样,无法消费。
      之后就是无脑的百度,谷歌,但没有得到解决方案。
      之后我更改log4j 指定为debug出现如下错误:
      DEBUG internals.AbstractCoordinator: Group coordinator lookup for group console-consumer-41941 failed: The coordinator is not available.
      紧接着又是谷歌,资料也是很少。不过在这篇文章有人回复有可能该问题是0.10的一个死锁导致。
      文章:https://github.com/dpkp/kafka-python/issues/743
      bug??好吧。然后我关闭了cdh的kafka 下载了当前0.10大版本的最新版0.10.2.2进行安装,该版本无这样的情况。
      本来想看下cdh目前的最新版的集成的kafka版本可惜没找到:
      https://archive.cloudera.com/cdh5/cdh/5/
  
  
  ------------------------------分割线---------------------------
  
  
      目前来看也就是说,如果我享用cdh的kafka 方便安装管理,那么我就只能代码使用zk的方式去取数据,而不能使用原始的api的形式。相关的样例代码只有去spark 的demo文件里边找。(文件为:spark/examples/src/main/scala/org/apache/spark/examples/streaming/KafkaWordCount.scala ),若按照目前的spark 2.* 的官方文档,则使用的全是api 的形式,那么目前的cdh的kafka版本应该就不能继续使用。特此记录




运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-669901-1-1.html 上篇帖子: 使用Goldengate同步异构数据库Kafka中间件之一 下篇帖子: Kafka设计解析(三):Kafka High Availability (下)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表