设为首页 收藏本站
查看: 3419|回复: 1

[经验分享] elasticsearch5.0集群部署及故障测试

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2016-11-28 11:14:17 | 显示全部楼层 |阅读模式
本文主要介绍两节点集群部署,节点故障测试,模拟验证集群脑裂现象。

一、实验环境
节点1:192.168.115.11
节点1:192.168.115.12
版本:5.0.1
二、安装配置
具体部署过程见单机版
1.修改配置文件
1
2
3
4
5
6
7
8
9
10
cat elasticsearch.yml
cluster.name: hnrtest
node.name: hnr01
path.data: /data/elasticsearch5/data
path.logs: /data/elasticsearch5/logs
network.host: 192.168.115.11
discovery.zen.ping.unicast.hosts: ["192.168.115.11", "192.168.115.12"]
discovery.zen.minimum_master_nodes: 1     # 由于只部署两个节点,因此设置为1,否则当master宕机,将无法重新选取master
http.cors.enabled: true
http.cors.allow-origin: "*"



2.启动服务
分别启动两台服务
su - elasticsearch-c "/usr/local/elasticsearch/bin/elasticsearch &"
三、验证
1.通过head插件连接查看
QQ截图20161128111226.png
日志信息,提示配置的discovery.zen.minimum_master_nodes太少了
[2016-11-22T14:30:38,276][INFO][o.e.c.s.ClusterService   ] [hnr01]added{{hnr02}{L-jKkvuDQOWw8G6aCF8lPQ}{kCIS2DSDQvS-msW_k8cXIw}{192.168.115.12}{192.168.115.12:9300},},reason: zen-disco-node-join[{hnr02}{L-jKkvuDQOWw8G6aCF8lPQ}{kCIS2DSDQvS-msW_k8cXIw}{192.168.115.12}{192.168.115.12:9300}]
[2016-11-22T14:30:38,824][WARN][o.e.d.z.ElectMasterService] [hnr01] value for setting"discovery.zen.minimum_master_nodes" is too low. This can result indata loss! Please set it to at least a quorum of master-eligible nodes (currentvalue: [1], total number of master-eligible nodes used for publishing in thisround: [2])
[2016-11-22T14:30:41,468][INFO][o.e.c.r.a.AllocationService] [hnr01] Cluster health status changed from[YELLOW] to [GREEN] (reason: [shards started [[hnrtest][4]] ...]).

2.批量插入数据
使用python脚本插入数据,提前安装模块
pip3install elasticsearch
1
2
3
4
5
6
7
8
#!/usr/bin/env python
# -*- coding: utf-8 -*-
from elasticsearch import Elasticsearch
from datetime import datetime
# 创建连接
es = Elasticsearch(hosts='192.168.115.11')
for i in range(1,1000):
    es.index(index='els_student', doc_type='test-type', id=i, body={"name": "student" + str(i), "age": (i % 100), "timestamp": datetime.now()})



QQ截图20161128111232.png
四、故障测试
1.关闭hnr01节点,此时hnr02提升为主节点
QQ截图20161128111237.png
重新选举master日志
[2016-11-22T14:29:13,491][INFO][o.e.c.s.ClusterService   ] [hnr02]detected_master{hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{73M2VfECTi2wfJO6WYR5Dw}{192.168.115.11}{192.168.115.11:9300},added {{hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{73M2VfECTi2wfJO6WYR5Dw}{192.168.115.11}{192.168.115.11:9300},},reason: zen-disco-receive(from master [master{hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{73M2VfECTi2wfJO6WYR5Dw}{192.168.115.11}{192.168.115.11:9300}committed version [7]])
[2016-11-22T14:29:14,034][INFO][o.e.h.HttpServer         ] [hnr02]publish_address {192.168.115.12:9200}, bound_addresses {192.168.115.12:9200}
[2016-11-22T14:29:14,034][INFO][o.e.n.Node               ] [hnr02]started
[2016-11-22T15:43:41,575][INFO][o.e.d.z.ZenDiscovery     ] [hnr02]master_left[{hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{73M2VfECTi2wfJO6WYR5Dw}{192.168.115.11}{192.168.115.11:9300}],reason [shut_down]
[2016-11-22T15:43:41,584][WARN][o.e.d.z.ZenDiscovery     ] [hnr02]master left (reason = shut_down), current nodes:{{hnr02}{L-jKkvuDQOWw8G6aCF8lPQ}{kCIS2DSDQvS-msW_k8cXIw}{192.168.115.12}{192.168.115.12:9300},}
[2016-11-22T15:43:41,587][INFO][o.e.c.s.ClusterService   ] [hnr02]removed{{hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{73M2VfECTi2wfJO6WYR5Dw}{192.168.115.11}{192.168.115.11:9300},},reason: master_failed ({hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{73M2VfECTi2wfJO6WYR5Dw}{192.168.115.11}{192.168.115.11:9300})
[2016-11-22T15:43:44,654][INFO][o.e.c.r.a.AllocationService] [hnr02] Cluster healthstatus changed from [GREEN] to [YELLOW] (reason: [removed dead nodes onelection]).
[2016-11-22T15:43:44,704][INFO][o.e.c.s.ClusterService   ] [hnr02]new_master{hnr02}{L-jKkvuDQOWw8G6aCF8lPQ}{kCIS2DSDQvS-msW_k8cXIw}{192.168.115.12}{192.168.115.12:9300},reason: zen-disco-elected-as-master ([0] nodes joined)
[2016-11-22T15:43:44,712][INFO][o.e.c.r.DelayedAllocationService] [hnr02] scheduling reroute for delayedshards in [59.9s] (15 delayed shards)
2.重新启动hnr01节点
QQ截图20161128111243.png
master上日志输出
[2016-11-22T15:49:40,458][INFO][o.e.c.s.ClusterService   ] [hnr02]added{{hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{6RHGfHU7RdC5hWVlgQg7WQ}{192.168.115.11}{192.168.115.11:9300},},reason: zen-disco-node-join[{hnr01}{dr7haiVXSc2Pz8V9lHUr1Q}{6RHGfHU7RdC5hWVlgQg7WQ}{192.168.115.11}{192.168.115.11:9300}]
[2016-11-22T15:49:41,039][WARN][o.e.d.z.ElectMasterService] [hnr02] value for setting"discovery.zen.minimum_master_nodes" is too low. This can result indata loss! Please set it to at least a quorum of master-eligible nodes (currentvalue: [1], total number of master-eligible nodes used for publishing in thisround: [2])
[2016-11-22T15:49:50,276][INFO][o.e.c.r.a.AllocationService] [hnr02] Cluster healthstatus changed from [YELLOW] to [GREEN] (reason: [shards started[[hnrtest][4]] ...]).
五、集群脑裂验证
QQ截图20161128111248.png
1.集群无法正常通信
在hnr02节点上防火墙添加一条规则
iptables -A OUTPUT-s 192.168.115.12 -p tcp --dport 9300 -j DROP
在hnr01节点上防火墙添加一条规则
iptables -A OUTPUT-s 192.168.115.11 -p tcp --dport 9300 -j DROP
经过180秒
QQ截图20161128111254.png

2.往各自节点写入数据
hnr01节点
QQ截图20161128111303.png


QQ截图20161128111309.png
3.恢复集群
取消防火墙规则,集群无法恢复,重启hnr02节点,集群恢复正常,往hnr02节点上写入的数据与hnr01节点索引相同,这部分数据会丢失
QQ截图20161128111314.png


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-306658-1-1.html 上篇帖子: elasticsearch 2.4 修改logging.yml设置成按size存贮日志 下篇帖子: elasticsearch安装插件找不到java可执行的二进制文件问题
累计签到:70 天
连续签到:1 天
发表于 2016-12-7 08:49:35 | 显示全部楼层
感谢分享啊

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表