设为首页 收藏本站
查看: 1247|回复: 0

[经验分享] kafka0.7在linux上的单点及集群环境搭建与配置

[复制链接]

尚未签到

发表于 2016-4-2 10:01:12 | 显示全部楼层 |阅读模式
IT业的小白,最近用了消息对了,研究了下kafka,并且研究了在kafka基础上进行了二次开发的淘宝rocketMQ,打算写下安装与配置环境,和初级demo。有用过的大家一起交流。这个过程参考了frankHui博客里的的安装配置过程。

kafka0.8版本比0.7版本增加了一些功能,先说下0.7版本的单点搭建和配置。

kafka的搭建需要zookeeper的支持,所以如果你的服务器还没有安装zookeeper,请先安装。

1.去apache官网把kafka7.0版本down下来。这个过程就不详细说了,百度下kafka就能找到下载地址。将下载下来的kafka上传到linux上,并解压。
命令tar -zxvf 文件名。

2. 接下来就是下载kafka的依赖包和构建kafka的环境。注意,这一步需要服务器可以上网。具体命令就是在kafka解压后的一级目录下,执行两个命令,分别是

命令 ./sbt update
命令 ./sbt package。
上面的步骤都执行完了,环境算是好了,下面我们要测试下是否能成功运行kafka:

3.启动zookeeper server:
./bin/zookeeper-server start.sh  ../config/zookeeper.properties  &
(用&是为了能退出命令行)

4.启动kafka server:
./bin/kafka-server-start.sh   ../config/server.properties  &

5. Kafka为我们提供了一个console来做连通性测试,下面我们先运行producer:
./bin/kafka-console-producer.sh --zookeeper localhost:2181 --topic test
这是相当于开启了一个producer的命令行。命令行的参数我们一会儿再解释。

6.接下来运行consumer,新启一个terminal:
./bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

7.执行完consumer的命令后,你可以在producer的terminal中输入信息,马上在consumer的terminal中就会出现你输的信息。有点儿像一个通信客户端。

如果你能看到7执行了,说明你单机版部署成功了。下面解释下两条命令中参数的意思。--zookeeper localhost:2181 这个说明了去连本机2181端口的zookeeper server,--topic test,在kafka里,消息按topic来区分,我们这里的topic叫test,所以不管是consumer还是producer都指向了test。

这样kafka7.0的单点安装已经结束。集群安装和单点相似。具体过程如下:

我们还是按照那kafka单点配置的几个步骤来做。我们假设server1的IP是192.168.10.11 server2的IP是192.168.10.10:

1.在server1上启动zookeeper server :
./bin/zookeeper-server-start.sh  ../config/zookeeper.properties  &
(用&是为了能退出命令行)

2.在server2上启动kafka服务:
./ bin/kafka-server-start.sh ../config/server.properties  &

3.修改kafka配置文件在server1上找到kafka的config目录,目前本机的目录地址为:/application/search/kafkatest/kafka-0.7.2-incubating-src/config。找到server.properties文件,找到一行“hostname=“。
在等号后边加上启动了KAFKA服务的机器的ip,即192.168.10.11

4.server1上启动producer服务
./bin/kafka-console-producer.sh --zookeeper 192.168.10.11:2181 --topic test

5.运行consumer,
在server1上启动一个consumer
./ bin/kafka-console-consumer.sh --zookeeper 192.168.10.11:2181 --topic test --from-beginning

在server2启动一个consumer
./ bin/kafka-console-consumer.sh --zookeeper 192.168.10.11:2181 --topic test --from-beginning

6.运行完consumer的命令后,你可以在producer的terminal中输入信息,马上在两个consumer的terminal中就会出现你输的信息。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-198706-1-1.html 上篇帖子: Kafka 0.9+Zookeeper3.4.6集群搭建、配置,新版Java Client的使用要点,高可用性测试,以及各种坑(二) 下篇帖子: kafka0.8在linux上的单点及集群环境搭建与配置
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表