设为首页 收藏本站
查看: 961|回复: 0

[经验分享] 指令脚本redis线上环境监控脚本(python脚本)

[复制链接]

尚未签到

发表于 2015-7-22 12:24:07 | 显示全部楼层 |阅读模式
  在改章节中,我们要主介绍指令脚本的内容,自我觉感有个不错的议建和大家分享下
  近来一个月没啥新更,边身生发太多事,结业几年来霉运太多,虽然不信命,但我信有些性命的确好,有些性命的确差,其它不说也罢。(大家定一要意注身材啊,康健比任何西东都主要)
  本文要监控的这个脚本,是在一个月前阁下,对于线上redis中项指令操纵须要行进统计析分时写的一个工具:
  一.需求
  由于是其于client的分布式缓存,须要晓得每一个点结,前当每秒所理处的指令有哪些,要主中集在哪些操纵,哪些操纵多过,可以行进优化等.基于这些需求,须要晓得在现线上每一个redis点结下有哪些操纵。
  二.背景
  redis-monitor指令可以导出前当redis点结全部操纵的二进制文件(此操纵不议建常开,只是析分时用,对redis点结有性能影响)。
  其中业界应用比较多的redis-live,此监控还基于图形化的方法部署,旁边我也 部署过,安装的西东很多,一堆程流,而且我们不须要这么细详的监控,只是一个析分帮助工具,所以太粗笨了,其也是基于redis-monitor的脚本析分来行进监控的。
  三.工具
  斟酌到我们只是须要对redis-monitor所导出的二进制文件行进一些统计,因此这样就绝对比较单简了,java,shell脚本都可以实现,当然如果要做shell是首选。
  可是斟酌到shell对理处本文的局限性,因此斟酌应用python来实现(解析性语言,整体觉感是,单简,易用,还不须要像java那样烦锁的打包,布发等!)
  四.要主程流
  要对redis的行执指令行进统计要主分两步:
  一.redis-monitor对应的输出行进重定向,统计某一段时光段的redis指令况情,保存为某个文件。
  二.应用python对面上保存的monitor指令集行进理处,并输出统计结果。
  shell脚本如下:
  ##此shell脚本用于取获指定的redis点结的monitor指令的监控信息。保存在db.txt文件中
#运行时行执脚本可即,可指定行执时光,如./monitor.sh 5s,如不指定,则认默行执2S
#!/bin/bash
lineno=1
cmd=/home/hmail/etc/redis/bin/redis-cli
host=xx.xx.xx.xx
port=xx
file=db.txt
time=$1
if [ -z $time ];then
   time=2s
fi
echo "$cmd -h $host -p $port monitor run time $time "
`$cmd -h $host -p $port monitor > $file &`
sleep $time
pid=`ps aux | grep "monitor" | grep "redis-cli" | awk '{print $2}'`
echo "will kill redis monitor pid:$pid"
`kill -9 $pid`
echo "redis-cli monitor stopped"
  对面上保存的db.txt文件行进理处的python脚本如下:

    每日一道理
巴尔扎克说过“不幸,是天才的进升阶梯,信徒的洗礼之水,弱者的无底深渊”。风雨过后,眼前会是鸥翔鱼游的天水一色;走出荆棘,前面就是铺满鲜花的康庄大道;登上山顶,脚下便是积翠如云的空蒙山色。  在这个世界上,一星陨落,黯淡不了星空灿烂,一花凋零,荒芜不了整个春天。人生要尽全力度过每一关,不管遇到什么困难不可轻言放弃。
  #coding=utf8
#此监控脚本为基于读取到的redis monitor file统计对应的redis操纵况情。
import commands, sys, os, time, string
#取time 准确到秒时暂
def getSeconds(time):
     index = time.find(".")
     return time[0:index]
#every same seconds ope
class SecondRecords:
     allcount = 0
     #"set:1"
     table = {}
     #init法方为了例实属性与类属性
     def __init__(self, table, count):
         self.table = table
         self.allcount = count
     def get(self):
         return "all count:", self.allcount,"    ",self.table
         
     def add(self, ope):
         if(ope not in self.table.keys()):
             self.table[ope] = 0
         count = self.table[ope]
         count = count + 1
         self.table[ope] = count
         self.allcount = self.allcount + 1;

def printResults(results):
     for key in results.keys():
         print key, '\t', results[key].get()

#定判否是指定时光     
length = len(sys.argv)
period = None
if(length < 2):
     #认默2s
     period = "2"
else:
     period = sys.argv[1]   
cmd='./monitor.sh ' + str(period)   #此monitor.sh为面上提到的shell脚本
#not result
os.system(cmd);
#wait period时光,待等采集数据
period = string.atol(period)
time.sleep(period)

#all monitor records
results = {}
# read monitor file
f = open("db.txt")
#f = open("monitor.txt")
print "monitor per seconds ope:"
line = f.readline()
while line:
     strs = line.split(" ")
     #判断否是及格的字符
     length = len(strs)
     #去除非监控指令。
     if(length < 2):
         line = f.readline()
         continue
     time = getSeconds(strs[0])
     if(time not in results.keys()):
         results[time] = SecondRecords({}, 0)
     results[time].add(strs[1])
     line = f.readline()
#close
f.close();

print "monitor records:"
printResults(results)
  如果统系中有python境环,直接行执python redis_monitor.py 可即(意注,shell脚本只是为了抓取重定向文件所用的,python脚本会行执此文件,同时监控多长时光的指令,在后面增长对应的数参可即)
  
  五.明说
  以上为整个监控脚本,运行,输出的结果如下:
DSC0000.png
  通过面上图示,可以晰清的晓得每一个点结下每秒钟各条指令行执的数目况情,从而晓得自己缓存对各个缓存的需求是多少,以及各个点结在现的性能是多少。
  
  我们线上境环,每一个点结均匀每秒理处的redis指令在25000-30000阁下的操纵数阁下(值得明说的是像一个multi-exec操纵算两次操纵,旁边如果有批量提交,每一个操纵也算一次操纵,这样现实业务场景中很有是能可某个业务逻辑会有多次的指令操纵数,从而可以估算出相干缓存服务器性能等)
  很多况情,我们在晓得我们redis指令数后,会更加解理我们产品的业务逻辑,由疑惑redis的点结性能转化到优化相干逻辑上去。
  
  希望对你有帮助。
  
  
  
  
  
  
  文章结束给大家分享下程序员的一些笑话语录: 一个程序员对自己的未来很迷茫,于是去问上帝。
"万能的上帝呀,请你告诉我,我的未来会怎样?"
上帝说"我的孩子,你去问Lippman,他现在领导的程序员的队伍可能是地球上最大的"
于是他去问Lippman。
Lippman说"程序员的未来就是驾驭程序员"
这个程序员对这个未来不满意,于是他又去问上帝。
"万能的上帝呀,请你告诉我,我的未来会怎样?"
上帝说"我的孩子,你去问Gates,他现在所拥有的财产可能是地球上最多的"
于是他去问Gates。
Gates说"程序员的未来就是榨取程序员"
这个程序员对这个未来不满意,于是他又去问上帝。
"万能的上帝呀,请你告诉我,我的未来会怎样?"
上帝说"我的孩子,你去问侯捷,他写的计算机书的读者可能是地球上最多的"
于是他去问侯捷。
侯捷说"程序员的未来就是诱惑程序员"
这个程序员对这个未来不满意,于是他又去问上帝。
"万能的上帝呀,请你告诉我,我的未来会怎样?"
上帝摇摇头"唉,我的孩子,你还是别当程序员了")

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-89469-1-1.html 上篇帖子: 磁盘满时,redis客户端频抛出ConnectionException异常 下篇帖子: REDIS 字典数据结构
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表