设为首页 收藏本站
查看: 1341|回复: 0

[经验分享] MongoDB数据库分析器

[复制链接]

尚未签到

发表于 2015-11-11 10:35:56 | 显示全部楼层 |阅读模式
  一、引言
  当数据库运行慢时,我们需要找出其中的性能瓶颈。找出性能瓶颈的第一步就是找出数据库正在忙什么,然后再找出其中最慢的操作进行优化。MongoDB提供了数据库分析器收集在实例上执行的写操作、游标、命令等详细信息。MongoDB数据库分析器可以在实例级别打开,也可以在数据库级别打开。
MongoDB数据库分析器可以设置三个级别:
0 - 分析器处在关闭状态,不收集任何数据
1 - 仅仅收集较慢操作的分析数据。默认情况下如果一个操作花费的时间超过100ms,就认为是较慢的操作。
2 - 收集所有数据库操作的分析数据。

  二、system.profile集合
  MongoDB数据库分析器收集的数据将存放在system.profile集合中。system.profile是一个固定大小的集合,数据将循环写入该集合。当用完所有分配的空间后,MongoDB将会覆盖集合中最老的文档。默认情况下,system.profile集合大小为4M。
  system.profile集合常用的字段包括:
ts:数据库操作发生的时间戳
op:操作类型,可能的取值为insert,query,update,remove,getmore,command
ns:操作对象的名字
query:查询语句
nreturned:返回的文档数
nscanned:为执行操作扫描的文档数
millis:执行操作花费的时间

  三、设置数据库分析器级别
  MongoDB数据库分析器具有三个级别,可以通过mongo Shell设置:
  db.getProfilingLevel():获取当前的profile级别
  db.getProfilingStatus():获取当前的profile级别,同时返回slowms阈值。
  db.setProfilingLevel():设置profile级别
  
我们可以尝试着把分析器级别设置为1,把slowms设置为500ms:
  db.setProfilingLevel(1,500)
{ "was" : 0, "slowms" : 100, "ok" : 1 }

  执行结果中was字段显示原分析器级别为0,slowms字段显示原慢操作阈值为100ms。使db.getProfilingStatus()查询新的分析器设置:
  db.getProfilingStatus()
{ "was" : 1, "slowms" : 500 }

  执行结果显示分析器级别已设置为1,表明mongodb将记录执行时间超过500ms的所有操作。
  四、查看分析器数据并进行分析
  首先我们进行初始的数据准备,建立mydb库,在其中建test集合,并插入1000万条数据:
  use mydb
  db.test.drop()
  for (var i=1;i<=10000000;i&#43;&#43;)   db.test.insert({empno:i,name:i,address:'AAAAAAAAAAAAAAAAAAAAAAAAAAA'})
  清空system.profile集合,设置分析级别为2,慢操作的阈&#20540;为100ms:
use mydb
db.setProfilingLevel(0)
db.system.profile.drop()
db.setProfilingLevel(2,100)

  在没有索引的情况下查询empno大于99999999的文档:
  db.test.find({empno:{$gt:9999999}})
  查询到一条结果,因此网络:
{ &quot;_id&quot; : ObjectId(&quot;523ad4d465fdfe550ae05d97&quot;), &quot;empno&quot; : 10000000, &quot;name&quot; : 10000000, &quot;address&quot; : &quot;AAAAAAAAAAAAAAAAAAAAAAAAAAA&quot; }

  在empno创建索引:
  db.test.ensureIndex({empno:1})
  重新查询empno大于99999999的文档得到的结果相同。
  查询system.profile中存储的分析数据,按照发生的时间排序:
  db.system.profile.find().limit(10).sort( { ts : 1 } ).pretty()
  得到结果:
{
        &quot;op&quot; : &quot;query&quot;,
        &quot;ns&quot; : &quot;mydb.system.indexes&quot;,
        &quot;query&quot; : {
                &quot;expireAfterSeconds&quot; : {
                        &quot;$exists&quot; : true
                }
        },
        &quot;ntoreturn&quot; : 0,
        &quot;ntoskip&quot; : 0,
        &quot;nscanned&quot; : 1,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 0,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(44),
                        &quot;w&quot; : NumberLong(0)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(2),
                        &quot;w&quot; : NumberLong(57806)
                }
        },
        &quot;nreturned&quot; : 0,
        &quot;responseLength&quot; : 20,
        &quot;millis&quot; : 0,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:47:00.656Z&quot;),
        &quot;client&quot; : &quot;0.0.0.0&quot;,
        &quot;allUsers&quot; : [
                {
                        &quot;user&quot; : &quot;__system&quot;,
                        &quot;userSource&quot; : &quot;local&quot;
                }
        ],
        &quot;user&quot; : &quot;
__system@local&quot;
}
{
        &quot;op&quot; : &quot;query&quot;,
        &quot;ns&quot; : &quot;mydb.test&quot;,
        &quot;query&quot; : {
                &quot;empno&quot; : {
                        &quot;$gt&quot; : 9999999
                }
        },
        &quot;ntoreturn&quot; : 0,
        &quot;ntoskip&quot; : 0,
        &quot;nscanned&quot; : 10000000,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 29,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(59258536),
                        &quot;w&quot; : NumberLong(0)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(29469480),
                        &quot;w&quot; : NumberLong(6)
                }
        },
        &quot;nreturned&quot; : 1,
        &quot;responseLength&quot; : 112,
        &quot;millis&quot; : 29861,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:47:21.476Z&quot;),
        &quot;client&quot; : &quot;127.0.0.1&quot;,
        &quot;allUsers&quot; : [ ],
        &quot;user&quot; : &quot;&quot;
}
{
        &quot;op&quot; : &quot;query&quot;,
        &quot;ns&quot; : &quot;mydb.system.indexes&quot;,
        &quot;query&quot; : {
                &quot;expireAfterSeconds&quot; : {
                        &quot;$exists&quot; : true
                }
        },
        &quot;ntoreturn&quot; : 0,
        &quot;ntoskip&quot; : 0,
        &quot;nscanned&quot; : 1,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 0,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(171),
                        &quot;w&quot; : NumberLong(0)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(8),
                        &quot;w&quot; : NumberLong(4)
                }
        },
        &quot;nreturned&quot; : 0,
        &quot;responseLength&quot; : 20,
        &quot;millis&quot; : 0,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:48:00.661Z&quot;),
        &quot;client&quot; : &quot;0.0.0.0&quot;,
        &quot;allUsers&quot; : [
                {
                        &quot;user&quot; : &quot;__system&quot;,
                        &quot;userSource&quot; : &quot;local&quot;
                }
        ],
        &quot;user&quot; : &quot;
__system@local&quot;
}
{
        &quot;op&quot; : &quot;query&quot;,
        &quot;ns&quot; : &quot;mydb.system.indexes&quot;,
        &quot;query&quot; : {
                &quot;expireAfterSeconds&quot; : {
                        &quot;$exists&quot; : true
                }
        },
        &quot;ntoreturn&quot; : 0,
        &quot;ntoskip&quot; : 0,
        &quot;nscanned&quot; : 1,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 0,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(41),
                        &quot;w&quot; : NumberLong(0)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(3),
                        &quot;w&quot; : NumberLong(2)
                }
        },
        &quot;nreturned&quot; : 0,
        &quot;responseLength&quot; : 20,
        &quot;millis&quot; : 0,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:49:00.677Z&quot;),
        &quot;client&quot; : &quot;0.0.0.0&quot;,
        &quot;allUsers&quot; : [
                {
                        &quot;user&quot; : &quot;__system&quot;,
                        &quot;userSource&quot; : &quot;local&quot;
                }
        ],
        &quot;user&quot; : &quot;
__system@local&quot;
}
{
        &quot;op&quot; : &quot;insert&quot;,
        &quot;ns&quot; : &quot;mydb.system.indexes&quot;,
        &quot;query&quot; : {
                &quot;v&quot; : 1,
                &quot;key&quot; : {
                        &quot;empno&quot; : 1
                },
                &quot;ns&quot; : &quot;mydb.test&quot;,
                &quot;name&quot; : &quot;empno_1&quot;
        },
        &quot;ninserted&quot; : 1,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 0,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(0),
                        &quot;w&quot; : NumberLong(145940925)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(0),
                        &quot;w&quot; : NumberLong(292871)
                }
        },
        &quot;millis&quot; : 145977,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:51:37.246Z&quot;),
        &quot;client&quot; : &quot;127.0.0.1&quot;,
        &quot;allUsers&quot; : [ ],
        &quot;user&quot; : &quot;&quot;
}
{
        &quot;op&quot; : &quot;query&quot;,
        &quot;ns&quot; : &quot;mydb.system.indexes&quot;,
        &quot;query&quot; : {
                &quot;expireAfterSeconds&quot; : {
                        &quot;$exists&quot; : true
                }
        },
        &quot;ntoreturn&quot; : 0,
        &quot;ntoskip&quot; : 0,
        &quot;nscanned&quot; : 2,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 1,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(598801),
                        &quot;w&quot; : NumberLong(0)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(96316198),
                        &quot;w&quot; : NumberLong(13)
                }
        },
        &quot;nreturned&quot; : 0,
        &quot;responseLength&quot; : 20,
        &quot;millis&quot; : 1107,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:51:38.122Z&quot;),
        &quot;client&quot; : &quot;0.0.0.0&quot;,
        &quot;allUsers&quot; : [
                {
                        &quot;user&quot; : &quot;__system&quot;,
                        &quot;userSource&quot; : &quot;local&quot;
                }
        ],
        &quot;user&quot; : &quot;
__system@local&quot;
}
{
        &quot;op&quot; : &quot;query&quot;,
        &quot;ns&quot; : &quot;mydb.system.indexes&quot;,
        &quot;query&quot; : {
                &quot;expireAfterSeconds&quot; : {
                        &quot;$exists&quot; : true
                }
        },
        &quot;ntoreturn&quot; : 0,
        &quot;ntoskip&quot; : 0,
        &quot;nscanned&quot; : 2,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 0,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(54),
                        &quot;w&quot; : NumberLong(0)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(3),
                        &quot;w&quot; : NumberLong(2)
                }
        },
        &quot;nreturned&quot; : 0,
        &quot;responseLength&quot; : 20,
        &quot;millis&quot; : 0,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:52:38.260Z&quot;),
        &quot;client&quot; : &quot;0.0.0.0&quot;,
        &quot;allUsers&quot; : [
                {
                        &quot;user&quot; : &quot;__system&quot;,
                        &quot;userSource&quot; : &quot;local&quot;
                }
        ],
        &quot;user&quot; : &quot;
__system@local&quot;
}
{
        &quot;op&quot; : &quot;query&quot;,
        &quot;ns&quot; : &quot;mydb.test&quot;,
        &quot;query&quot; : {
                &quot;empno&quot; : {
                        &quot;$gt&quot; : 9999999
                }
        },
        &quot;ntoreturn&quot; : 0,
        &quot;ntoskip&quot; : 0,
        &quot;nscanned&quot; : 1,
        &quot;keyUpdates&quot; : 0,
        &quot;numYield&quot; : 0,
        &quot;lockStats&quot; : {
                &quot;timeLockedMicros&quot; : {
                        &quot;r&quot; : NumberLong(125810),
                        &quot;w&quot; : NumberLong(0)
                },
                &quot;timeAcquiringMicros&quot; : {
                        &quot;r&quot; : NumberLong(4),
                        &quot;w&quot; : NumberLong(6)
                }
        },
        &quot;nreturned&quot; : 1,
        &quot;responseLength&quot; : 112,
        &quot;millis&quot; : 125,
        &quot;ts&quot; : ISODate(&quot;2013-09-19T10:52:40.258Z&quot;),
        &quot;client&quot; : &quot;127.0.0.1&quot;,
        &quot;allUsers&quot; : [ ],
        &quot;user&quot; : &quot;&quot;
}

  
我们看到执行的两次同样的查询和一次索引创建操作都在其中。
第一次查询的时间戳为2013-09-19T10:47:21.476Z,nscanned为1000万,nreturned为1 ,操作本身耗时29861ms。

  上述查询是没有索引的情况下执行的,为优化查询,我们在empno上创建了索引。从system.profile查询结果可以看出创建索引的op为insert,操作的名字空间为mydb.system.indexes,创建的索引名称为empno_1。创建索引本身耗时145977ms。
  我们第二次执行查询的时间戳为2013-09-19T10:52:40.258Z,nscanned为1,nreturned为1,操作本身耗时125ms。
  从system.profile输出,我们可以看出有索引的查询要比没有索引的查询快很多。
  
         版权声明:本文为博主原创文章,未经博主允许不得转载。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-137807-1-1.html 上篇帖子: 第9周 Mongodb数据库高可用,分布式集群部署 下篇帖子: hadoop清理回收站
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表