玩转mongodb(五):mongodb 3.0+ 查询性能分析

mongodb性能分析方法:explain()

为了演示的效果,我们先来创建一个有200万个文档的记录。(我自己的电脑耗了15分钟左右插入完成。如果你想插更多的文档也没问题,只要有耐心等就可以了。)

1 for(var i=0;i<2000000;i++){
2     db.person.insert({"name":"ryan"+i,"age":i});
3 }

MongoDB 3.0之后,explain的返回与使用方法与之前版本有了很大的变化,介于3.0之后的优秀特色和我们目前所使用给的是3.0.7版本,本文仅针对MongoDB 3.0+的explain进行讨论。3.0+的explain有三种模式,分别是:queryPlanner、executionStats、allPlansExecution。现实开发中,常用的是executionStats模式,主要分析这种模式。

给这个person集合创建age键的索引:db.person.createIndex({"age":1})

 1 {
 2     "queryPlanner" : {
 3         "plannerVersion" : 1,
 4         "namespace" : "personmap.person",
 5         "indexFilterSet" : false,
 6         "parsedQuery" : {
 7             "age" : {
 8                 "$lte" : 2000.0
 9             }
10         },
11         "winningPlan" : {
12             "stage" : "FETCH",
13             "inputStage" : {
14                 "stage" : "IXSCAN",
15                 "keyPattern" : {
16                     "age" : 1.0
17                 },
18                 "indexName" : "age_1",
19                 "isMultiKey" : false,
20                 "direction" : "forward",
21                 "indexBounds" : {
22                     "age" : [
23                         "[-1.#INF, 2000.0]"
24                     ]
25                 }
26             }
27         },
28         "rejectedPlans" : []
29     },
30     "executionStats" : {
31         "executionSuccess" : true,
32         "nReturned" : 2001,
33         "executionTimeMillis" : 143,
34         "totalKeysExamined" : 2001,
35         "totalDocsExamined" : 2001,
36         "executionStages" : {
37             "stage" : "FETCH",
38             "nReturned" : 2001,
39             "executionTimeMillisEstimate" : 0,
40             "works" : 2002,
41             "advanced" : 2001,
42             "needTime" : 0,
43             "needFetch" : 0,
44             "saveState" : 16,
45             "restoreState" : 16,
46             "isEOF" : 1,
47             "invalidates" : 0,
48             "docsExamined" : 2001,
49             "alreadyHasObj" : 0,
50             "inputStage" : {
51                 "stage" : "IXSCAN",
52                 "nReturned" : 2001,
53                 "executionTimeMillisEstimate" : 0,
54                 "works" : 2002,
55                 "advanced" : 2001,
56                 "needTime" : 0,
57                 "needFetch" : 0,
58                 "saveState" : 16,
59                 "restoreState" : 16,
60                 "isEOF" : 1,
61                 "invalidates" : 0,
62                 "keyPattern" : {
63                     "age" : 1.0
64                 },
65                 "indexName" : "age_1",
66                 "isMultiKey" : false,
67                 "direction" : "forward",
68                 "indexBounds" : {
69                     "age" : [
70                         "[-1.#INF, 2000.0]"
71                     ]
72                 },
73                 "keysExamined" : 2001,
74                 "dupsTested" : 0,
75                 "dupsDropped" : 0,
76                 "seenInvalidated" : 0,
77                 "matchTested" : 0
78             }
79         }
80     },
81     "serverInfo" : {
82         "host" : "qinxiongzhou",
83         "port" : 27017,
84         "version" : "3.0.7",
85         "gitVersion" : "6ce7cbe8c6b899552dadd907604559806aa2e9bd"
86     },
87     "ok" : 1.0
88 }

db.getCollection(‘person‘).find({"age":{"$lte":2000}}).explain("executionStats")

对queryPlanner分析

queryPlanner: queryPlanner的返回

queryPlanner.namespace:该值返回的是该query所查询的表

queryPlanner.indexFilterSet:针对该query是否有indexfilter

queryPlanner.winningPlan:查询优化器针对该query所返回的最优执行计划的详细内容。

queryPlanner.winningPlan.stage:最优执行计划的stage,这里返回是FETCH,可以理解为通过返回的index位置去检索具体的文档(stage有数个模式,将在后文中进行详解)。

queryPlanner.winningPlan.inputStage:用来描述子stage,并且为其父stage提供文档和索引关键字。

queryPlanner.winningPlan.stage的child stage,此处是IXSCAN,表示进行的是index scanning。

queryPlanner.winningPlan.keyPattern:所扫描的index内容,此处是did:1,status:1,modify_time: -1与scid : 1

queryPlanner.winningPlan.indexName:winning plan所选用的index。

queryPlanner.winningPlan.isMultiKey是否是Multikey,此处返回是false,如果索引建立在array上,此处将是true。

queryPlanner.winningPlan.direction:此query的查询顺序,此处是forward,如果用了.sort({modify_time:-1})将显示backward。

queryPlanner.winningPlan.indexBounds:winningplan所扫描的索引范围,如果没有制定范围就是[MaxKey, MinKey],这主要是直接定位到mongodb的chunck中去查找数据,加快数据读取。

queryPlanner.rejectedPlans:其他执行计划(非最优而被查询优化器reject的)的详细返回,其中具体信息与winningPlan的返回中意义相同,故不在此赘述。

对executionStats返回逐层分析

    第一层,executionTimeMillis

最为直观explain返回值是executionTimeMillis值,指的是我们这条语句的执行时间,这个值当然是希望越少越好。

其中有3个executionTimeMillis,分别是:

executionStats.executionTimeMillis

该query的整体查询时间。

executionStats.executionStages.executionTimeMillisEstimate

该查询根据index去检索document获得2001条数据的时间。

executionStats.executionStages.inputStage.executionTimeMillisEstimate

该查询扫描2001行index所用时间。

第二层,index与document扫描数与查询返回条目数

这个主要讨论3个返回项,nReturned、totalKeysExamined、totalDocsExamined,分别代表该条查询返回的条目、索引扫描条目、文档扫描条目。

这些都是直观地影响到executionTimeMillis,我们需要扫描的越少速度越快。

对于一个查询,我们最理想的状态是:

nReturned=totalKeysExamined=totalDocsExamined

第三层,stage状态分析

那么又是什么影响到了totalKeysExamined和totalDocsExamined?是stage的类型。类型列举如下:

COLLSCAN:全表扫描

IXSCAN:索引扫描

FETCH:根据索引去检索指定document

SHARD_MERGE:将各个分片返回数据进行merge

SORT:表明在内存中进行了排序

LIMIT:使用limit限制返回数

SKIP:使用skip进行跳过

IDHACK:针对_id进行查询

SHARDING_FILTER:通过mongos对分片数据进行查询

COUNT:利用db.coll.explain().count()之类进行count运算

COUNTSCAN:count不使用Index进行count时的stage返回

COUNT_SCAN:count使用了Index进行count时的stage返回

SUBPLA:未使用到索引的$or查询的stage返回

TEXT:使用全文索引进行查询时候的stage返回

PROJECTION:限定返回字段时候stage的返回

对于普通查询,我希望看到stage的组合(查询的时候尽可能用上索引):

Fetch+IDHACK

Fetch+ixscan

Limit+(Fetch+ixscan)

PROJECTION+ixscan

SHARDING_FITER+ixscan

COUNT_SCAN

不希望看到包含如下的stage:

COLLSCAN(全表扫描),SORT(使用sort但是无index),不合理的SKIP,SUBPLA(未用到index的$or),COUNTSCAN(不使用index进行count)

时间: 2024-10-11 08:14:31

玩转mongodb(五):mongodb 3.0+ 查询性能分析的相关文章

sql查询性能分析

SQL查询性能分析 http://blog.csdn.net/dba_huangzj/article/details/7623926 五分钟打造自己的sql性能分析工具 http://www.cnblogs.com/gezifeiyang/p/3403744.html sql查询性能分析,布布扣,bubuko.com

MongoDB 操作手册CRUD 查询性能分析

分析查询性能 explain() cursor方法允许观察查询系统执行的操作.这个方法对于分析高效查询和决定如何使用索引进行查询是十分有用的.这个方法检测的是查询的操作,而不是查询执行时间.因为这个方法尝试多个查询计划,它并不能准确的反映出查询执行时间. 评估一个查询的性能 使用explain()方法,调用find()返回的指针的该方法即可. 例: 在type字段创建索引 db.testData.ensureIndex({'type':1}); 评估一个在type字段上的查询. db.testD

MongoDB (五) MongoDB 数据库操作

一.MongoDB创建数据库: use 命令 MongoDB use DATABASE_NAME 用于创建数据库.该命令将创建一个新的数据库,如果它不存在,否则将返回现有的数据库. 语法: use DATABASE 语句的基本语法如下: use DATABASE_NAME 示例: 如果想创建一个数据库名称 <mydb>, 那么 use DATABASE 语句如下: >use mydb switched to db mydb 要检查当前选择的数据库使用命令 db >db mydb 如

mongodb之使用explain和hint性能分析和优化

一:explain演示 1. 构建数据 为了方便演示,我需要create ten data to inventory,而且还是要在no index 的情况下,比如下面这样: 1 db.inventory.insertMany([ 2 { "_id" : 1, "item" : "f1", type: "food", quantity: 500 }, 3 { "_id" : 2, "item&quo

MongoDB之DBref(关联插入,查询,删除) 实例深入

MongoDB之DBref(关联插入,查询,删除) 实例深入 如图所示,A,B,C三个Collection互相关联. 其中的数字为document的value值. 关于DBref的入门可以看http://blog.csdn.net/crazyjixiang/article/details/6616678这篇文章. 我们先建立A collection. Cpp代码 > var a={value:"1"} > var b={value:"2"} > v

《转》CentOS7 安装MongoDB 3.0server (3.0的优势)

1.下载&安装 MongoDB 3.0 正式版本号公布!这标志着 MongoDB 数据库进入了一个全新的发展阶段,提供强大.灵活并且易于管理的数据库管理系统.MongoDB宣称.3.0新版本号不仅仅提升7到10倍的写入效率以及添加80%的数据压缩率.还能降低95%的运维成本. MongoDB 3.0主要新特性包含: ·可插入式的存储引擎 API ·支持 WiredTiger 存储引擎 ·MMAPv1 提升 ·复制集全面提升 ·集群方面的改进 ·提升了安全性 ·工具的提升 WiredTiger 存

SpringMVC MongoDB之“基本文档查询(Query、BasicQuery)”

一.简介 spring Data  MongoDB提供了org.springframework.data.mongodb.core.MongoTemplate对MongoDB的CRUD的操作,上一篇我们介绍了对MongoDB的新增和删除, 今天我们要介绍Java代码实现对MongoDB实现查询操作. 我们回顾一下,我们在之前介绍了MongoDB的基本文档查询,MongoDB的查询语法: db.orders.find({{<field1>:<value1>,<field2>

mongodb 实现关系型数据库中查询某一列 的效果

最近在tornado\mongodb\ansible mongodb中有个find()方法很牛逼,可以将集合中所有的表都传出来,一开始我这么写 class Module_actionHandler(tornado.web.RequestHandler): def get(self, *args, **kwargs): coll = self.application.db.waitfish hosts = coll.find({}, {'hostname':1,"_id":0}) mod

【原创】大数据基础之Mongodb(2)常用查询命令

1 下载 https://www.mongodb.com/download-center/community 比如: https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-4.0.9.tgz 2 连接 # cd $MONGODB_HOME# bin/mongo master:27017/database_name 3 查询 1 count >db.getCollection('table_name').find({}).count() 2 g