优化MongoDB索引

要在MongoDB上使应用程序运行性能良好,好的索引必不可少。当它将你的索引放在RAM中时,将能使它达到最好的性能。减少索引的大小亦有助于得到更快的查询速度,并通过更小的内存管理更多的数据。

 

以下是一些用来减小MongoDB索引大小的技巧:

  • 检查索引的大小

首先你应该做的是去了解你的索引的大小。在你做出一些改变并检查这种改变是否能减少索引大小之前,你会想先知道索引目前的大小。理想状态下,你一直在使用着你的监测工具图形化监测索引。

使用Mongo shell时,我们可以通过运行db.stats()命令来得到索引统计数据 :

> db.stats(){

“db” : “examples1”,

“collections” : 6,

“objects” : 403787,

“avgObjSize” : 121.9966467469235,

“dataSize” : 49260660,

“storageSize” : 66695168,

“numExtents” : 20,

“indexes” : 9,

“indexSize” : 48524560,

“fileSize” : 520093696,

“nsSizeMB” : 16,

“ok” : 1

}

 

 

  • Indexes : 在 examples1 数据库中的索引数目;
  • indexSize :  在 examples1 数据库中索引的大小

因为每个数据集合( collection )都拥有索引,所以你也可以通过执行 db.collection.stats( ) 来检查它们:

> db.address.stats(){

“ns” : “examples1.address”,

“count” : 3,

“size” : 276,

“avgObjSize” : 92,

“storageSize” : 8192,

“numExtents” : 1,

“nindexes” : 2,

“lastExtentSize” : 8192,

“paddingFactor” : 1,

“flags” : 1,

“totalIndexSize” : 16352,

“indexSizes” : {

“_id_” : 8176,

“_types_1” : 8176

},

“ok” : 1

}

 

 

  • totalIndexSize – 在数据集合( collection )所有索引的大小;
  • indexSizes – 由索引名称与大小组成的字典( dictionary )

注意 : 这里所有由执行命令返回的结果都是以bytes为单位。

 

这些命令都很有用但它们手工使用起来很乏味。我写了一个工具index-stats.py来生成索引统计数据的报告,让事情变得更简单。你可以在Github上的mongodb-tools 项目中找到它。

 

 

 

(virtualenv) mongodb-tools$ ./index-stats.pyChecking DB: examples2.system.indexes

Checking DB: examples2.things

Checking DB: examples1.system.indexes

Checking DB: examples1.address

Checking DB: examples1.typeless_address

Checking DB: examples1.user

Checking DB: examples1.typeless_user

 

Index Overview

+—————————-+——————————–+———+————-+

|             Collection     |             Index            |  % Size  | Index Size |

+—————————-+——————————–+———-+————+

| examples1.address         | _id_                           | 0.0%    | 7.98K      |

| examples1.address         | _types_1                       | 0.0%    | 7.98K      |

| examples1.typeless_address     | _id_                           | 0.0%    | 7.98K      |

| examples1.typeless_user   | _id_                           | 10.1%  | 6.21M      |

| examples1.typeless_user   | address_id_1                   | 10.1%  | 6.21M      |

| examples1.typeless_user   | typeless_address_ref_1         | 5.9%     | 3.62M      |

| examples1.user            | _id_                           | 10.1%  | 6.21M      |

| examples1.user            | _types_1                       | 6.9%    | 4.24M      |

| examples1.user            | _types_1_address_id_1          | 12.2%  | 7.51M      |

| examples1.user            | _types_1_address_ref_1         | 26.2%    | 16.09M     |

| examples2.things               | _id_                           | 10.1%  | 6.21M      |

| examples2.things               | _types_1                       | 8.4%    | 5.13M      |

+—————————-+——————————–+———-+————+

Top 5 Largest Indexes

+—————————-+——————————–+———-+————+

|        Collection         |              Index             |  % Size  | Index Size |

+—————————-+——————————–+———-+————+

| examples1.user            | _types_1_address_ref_1         | 26.2%  | 16.09M     |

| examples1.user            | _types_1_address_id_ 1        | 12.2%    | 7.51M      |

| examples1.typeless_user   | _id_                           | 10.1%    | 6.21M      |

| examples2.things               | _types_1                       | 8.4%    | 5.13M      |

| examples1.user            | _types_1                       | 6.9%     | 4.24M      |

+—————————-+——————————–+———-+————+

Total Documents: 600016

Total Data Size: 74.77M

Total Index Size: 61.43M

RAM Headroom: 2.84G

Available RAM Headroom: 1.04G

 

 

输出的结果展示了总索引大小、每个索引的大小、以及它们的相对大小。此外,报告还指出了在你的所有数据集合( collection )中最大的五个索引。这让检测最大索引、找出能为减少整体大小提供最大贡献的那一个索引变得简便起来。

  • RAM Headroom是你的物理内存–索引大小。一个看起来不错的值意味着你有可用的RAM给索引来装入内存。
  • Available RAM Headroom是空余内存–索引大小。因为这个系统上还有其他进程在消耗内存,所以我没有可用的总RAM Headroom。

 

统计RAM Headroom数据的想法来自于MongoDB monitoring service,我使用的是ServerDensity.

通过这个输出,我可以第一时间聚焦到examples1.user数据集合( collection )和索引types_1_address_ref_1与types_1_address_id_1 的状况。

 

2 )删除冗余的索引

如果你已经发布了一段代码并修改了一段时间,最后可能会有索引冗余。如果所有component的部分都不可用,MongoDB能使用Component索引的前缀。在之前的输出:

| examples1.user          | _types_1               |   6.9% |      4.24M |

在以下冗余:

| examples1.user          | _types_1_address_ref_1 |  26.2% |     16.09M |

| examples1.user          | _types_1_address_id_1  |  12.2% |      7.51M |

 

因为_types_1是这两个索引的前缀。删除它将会为总索引大小节省4.2M的空间,并且当user documents改变时,也只需更新更少的索引。

为了更容易地发现这些索引,你可以从mongodb-tools运行redundant-indexes.py:

(virtualenv)mongodb-tools$ ./redundant-indexes.pyChecking DB: examples2

Checking DB: examples1

Index examples1.user[_types_1] may be redundant with examples1.user[_types_1_address_ref_1]

Index examples1.user[_types_1] may be redundant with examples1.user[_types_1_address_id_1]

Checking DB: local

 

 

3 )执行Compact 命令

 

      如果你正在使用MongoDB 2.0+的版本,你可以执行compact 命令来整理collections和重建索引。执行compact 命令会锁住数据库,所以请在事先确认你清楚地知道你是在什么地方执行这个操作。如果你在Replica sets中执行,那么最简单的事情就是在你的secondaries中执行,每次一个,备份主要的部分到新的secondary中去并在老的primary中执行Compact操作。

 

4 )MongoDB 2.0 索引改进

      如果你还在使用MongoDB 2.0或者更新版本,升级并重建你的索引将会提供大约25%的空间节省。

请看 Index Performance Enhancements

 

5 )检查索引规则

      另一件事便是检查你的索引规则。你想要被索引的值小并且提高易查询性( selective)。索引值并不能帮助MongoDB发现你的数据在更快地降低查询速度并增加索引大小。如果你的应用程序正在使用Mapping框架,并且它支持在代码中定义索引,你应该检查看看它到底是如何创建索引的。比如Pyhthon中的MongoEngine使用”_types”来鉴别在同一个数据集合(collection)中的子类。这可能导致索引占用很大的空间并且可能并不增加索引的可查询性(selectivity)。

 

在我的测试数据中,我最大的索引是:

| examples1.user             | _types_1_address_ref_1 |  26.2%

 

查看它的数据:

 

> db.user.findOne(){

“_id” : ObjectId(“4f2ef95c89a40a11c5000002”),

“_types” : [

“User”

],

“address_id” : ObjectId(“4f2ef95c89a40a11c5000000”),

“address_ref” : {

“$ref” : “address”,

“$id” : ObjectId(“4f2ef95c89a40a11c5000000”)

},

“_cls” : “User”

}

 

你可以看到_types是一个带有类名User值的数组。因为我的代码中没有任何关于User的子类,所以索引这个值将不会对索引的可查询性(selectivity)有任何帮助。另一方面是想想每个相关索引的值都将以”User”作为前缀,这将为导致值增加一些额外的字节并且对索引的可查询性(selectivity)无任何帮助

用以下的代码来删除掉它:

class User(Document):meta {‘index_types’:False}

 

索引修改为:

| examples1.user             | address_ref_1          |  16.8% |

 

节约了23%的存储空间。

 

继续深入挖掘, address_ref_1 是一个Address对象的ReferenceProperty 以上的代码展示了它是一个包含了参考文件和数据集合(collection)所指向的id的字典。如果我们将这个address_idReferenceProperty 改成 ObjectIdProperty你将可以得到额外的空间节省:

 

| examples1.user             | address_id_1           |   9.5% |      6.21M || examples1.user             | address_ref_1          |  20.9% |

 

节约了53%。这是因为将索引的值从序列化的字典改为更能被MongoDB高度优化的ObjectId。虽然改变属性的类型的确要求代码的修改,并且你同时会失去由ReferenceProperty 提供的自动de-referencing的功能。但它可以节约大量内存。

 

总而言之,我们通过调整一些索引的规则降低了61%的存储并改变了一小段代码。

 

6 )删除/转移旧数据

      在很多应用程序中,一些数据被频繁的访问。如果你有不被你的用户访问的旧数据,那么把它转移到另一个无索引的数据集合(collection)中,或者把它存储在数据库外的某个地方。理想状态下,你的数据库包含并索引可用数据中的工作集。

还有一些其他好的优化方式,你可以从以下找到它们:

你如何优化你的索引呢?

Comment

*

沪ICP备14014813号

沪公网安备 31010802001379号