mongodb3.4.4安装副本集,wt引擎配置优化(二)

今天大概研究下wiredtiger引擎,mongo从3.0开始引入,主要为了解决吃内存多,占用大量磁盘空间的问题,其实即使用了wt引擎,在性能上还是比tokuft要差,但是tokuft 在功能上代码迭代的太慢,退而求其次大家还是用了mongo,首先3.0的时候默认还是mmapv1 引擎,所以需要重新指定wt引擎,从3.2版本后就是默认了wt了,我用的现在是3.4  主要是配置上的优化,看了好多人的写的东西,都特么是抄的,我写个官方文档上的吧,以此记录

storage.wiredTiger Options
storage:
   wiredTiger:
      engineConfig:
         cacheSizeGB: <number>
         journalCompressor: <string>
         directoryForIndexes: <boolean>
      collectionConfig:
         blockCompressor: <string>
      indexConfig:
         prefixCompression: <boolean>

这个是官方的,一下是我自己的

storage:
  dbPath: /var/lib/mongo
  journal:
    enabled: true
#  engine:
#  mmapv1:
#  wiredTiger:
   wiredTiger:
      engineConfig:
         cacheSizeGB: 0.25  
         ###这里Size是WT本身的Cache大小并不代表Mongod使用的内存,
         ###默认是Max(1G,内存的1/2),这里尽可能给多一些吧,尽量把热数据都可以Cache住,
         ###保证Dirty 不要超过1%,当然这个跟自己的业务、读写查询快慢有关,
         ###另外它Cache的单位是Page而不是Document。
         
         journalCompressor: snappy
         ##单独为Journal Log指定压缩方式,默认snappy,支持"none、snappy、zlib",
         ##一般情况下不需要用zlib,虽然压缩率较大,但cpu的占用率也高。
         
         directoryForIndexes: true   ## Index文件和数据文件分离,索引一个目录,数据一个目录。
      collectionConfig:
         blockCompressor: zlib
         ####数据库中Collection的压缩方式,默认是snappy,同样支持"none、snappy、zlib"",
         ####一般snappy足够,snappy cpu使用率较低,压缩率不是非常高,但可以满足一般业务需求,
         ####zlib是压缩率最高的,cpu使用率也较高,如果cpu资源充裕,就为了降低磁盘空间可以选择zlib。
      indexConfig:
         prefixCompression: true
         ###是否开启索引的前缀压缩,这里影响所有DB的索引。它会一次存储所有前缀一样的索引,
         ###减少内存、磁盘IO的消耗,默认开启。

官方原文:

Values can range from 256MB to 10TB and can be a float. In addition, the default value has also changed.

Starting in 3.4, the WiredTiger internal cache, by default, will use the larger of either:

  • 50% of RAM minus 1 GB, or
  • 256 MB.

Avoid increasing the WiredTiger internal cache size above its default value.

With WiredTiger, MongoDB utilizes both the WiredTiger internal cache and the filesystem cache.

Via the filesystem cache, MongoDB automatically uses all free memory that is not used by the WiredTiger cache or by other processes. Data in the filesystem cache is compressed.

由此可以看出,在内存足够大的情况下,还是要以提高cpu性能为主,zlib虽然是最高压缩,但也最吃cpu另外,在存储引擎切换的时候,先从second开始,进入服务器,db.shutdownServer(),把服务器关掉,然后清空所有数据,然后配置wt引擎,然后在挂载回去,进行重新同步

官方的原文:http://docs.mongoing.com/manual-zh/tutorial/change-replica-set-wiredtiger.html

步骤

这个步骤将复制集中 secondary 的数据完全移除, 然后使用 WiredTiger 存储引擎重启 mongod, 利用:doc:`初始化同步 完成数据同步.

在升级复制集中的成员存储引擎时, 首先升级 secondary 成员. 然后将 primary 降级为从节点, 之后升级降级为从节点的成员.

1

Shut down the secondary member.

In the mongo shell, shut down the secondary mongod instance you wish to upgrade.

db.shutdownServer()

2

Prepare a data directory for the new mongod running with WiredTiger.

Prepare a data directory for the new mongod instance that will run with the WiredTiger storage engine.mongod must have read and write permissions for this directory. You can either delete the contents of the stopped secondary member’s current data directory or create a new directory entirely.

mongod with WiredTiger will not start with data files created with a different storage engine.

3

Start mongod with WiredTiger.

Start mongod, specifying wiredTiger as the --storageEngine and the prepared data directory for WiredTiger as the --dbpath. Specify additional options as appropriate for this replica set member.

mongod --storageEngine wiredTiger --dbpath <newWiredTigerDBPath> --replSet <replSetName>

Since no data exists in the --dbpath, the mongod will perform an initial sync. The length of the initial sync process depends on the size of the database and network connection between members of the replica set.

You can also specify the options in a configuration file. To specify the storage engine, use thestorage.engine setting.

4

Repeat the procedure for other replica set secondaries you wish to upgrade.

Perform this procedure again for the rest of the secondary members of the replica set you wish to use the WiredTiger storage engine.

时间: 2024-10-01 23:29:19

mongodb3.4.4安装副本集,wt引擎配置优化(二)的相关文章

mongodb3.4.4安装副本集,分片和遇到的一些问题(一)

废话不多说 三台机器 host1,host2,host3 查看官方安装文档https://docs.mongodb.com/manual/tutorial/install-mongodb-on-red-hat/ 编辑源文件 vim /etc/yum.repos.d/mongodb-org-3.4.repo [mongodb-org-3.4] name=MongoDB  Repositorybaseurl=gpgcheck=1 enabled=1 gpgkey=https://www.mongod

【未完】mongodb安装+副本集搭建+数据导入

参考文档:1-centos6.5下MongoDB2.6.4安装配置记录 http://blog.csdn.net/ligaofeng/article/details/39374333 2-mongodb中的副本集搭建实践 http://www.cnblogs.com/visionwang/p/3290435.html

Innodb引擎配置优化

简单介绍InnoDB给MySQL提供了具有提交,回滚和崩溃恢复能力的事务安全(ACID兼容)存储引擎.InnoDB锁定在行级并且也在SELECT语句提供一个Oracle风格一致的非锁定读.这些特色增加了多用户部署和性能.没有在InnoDB中扩大锁定的需要,因为在InnoDB中行级锁定适合非常小的空间.InnoDB也支持FOREIGN KEY强制.在SQL查询中,你可以自由地将InnoDB类型的表与其它MySQL的表的类型混合起来,甚至在同一个查询中也可以混合. 2.之所以选用innodb作为存储

静默安装oracle 11g及参数配置优化详解

一.安装前准备工作1.修改主机名#vi /etc/hosts   //并添加内网IP地址对应的hostname,如下127.0.0.1           localhost::1                   localhost localhost.localdomain localhost6 localhost6.localdomain6192.168.8.151          linux-test 2.修改standby数据库的/etc/sysconfig/iptables文件,

[ MongoDB ] 副本集的搭建及测试

Replica Sets  复制 (副本集) node1: 10.0.0.10node2: 10.0.0.11node3: 10.0.0.12 副本集结构图: MongoDB程序,配置文件,启动脚本地址:链接:http://pan.baidu.com/s/1hslX7Ju 密码:jlei node1 部署: # 拷贝到其他两个节点上. [[email protected] ~]# scp mongodb-linux-x86_64-rhel62-3.2.8.tgz 10.0.0.11:/root/

搭建高可用mongodb集群(二)—— 副本集

http://www.lanceyan.com/tech/mongodb/mongodb_repset1.html 在上一篇文章<搭建高可用MongoDB集群(一)——配置MongoDB> 提到了几个问题还没有解决. 主节点挂了能否自动切换连接?目前需要手工切换. 主节点的读写压力过大如何解决? 从节点每个上面的数据都是对数据库全量拷贝,从节点压力会不会过大? 数据压力大到机器支撑不了的时候能否做到自动扩展? 这篇文章看完这些问题就可以搞定了.NoSQL的产生就是为了解决大数据量.高扩展性.高

(转)MongoDB 3.0 WT引擎参考配置文件

mongodb 3.0 改变很多,从2.6版本升级到3.0要关注的细节很多,如权限等等.3.0在数据存储引擎上更换成了wiredTiger,在数据压缩方面很有效,解决大数据量问题的情况下,磁盘不够用的问题. mongodb 3.0 配置文件采用的是YAML格式,只能使用空格,不支持tab键. 单实例 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 systemLog: dest

【转】搭建高可用mongodb集群(二)—— 副本集

在上一篇文章<搭建高可用MongoDB集群(一)——配置MongoDB> 提到了几个问题还没有解决. 主节点挂了能否自动切换连接?目前需要手工切换. 主节点的读写压力过大如何解决? 从节点每个上面的数据都是对数据库全量拷贝,从节点压力会不会过大? 数据压力大到机器支撑不了的时候能否做到自动扩展? 这篇文章看完这些问题就可以搞定了.NoSQL的产生就是为了解决大数据量.高扩展性.高性能.灵活数据模型.高可用性.但是光通过主从模式的架构远远达不到上面几点,由此MongoDB设计了副本集和分片的功能

搭建高可用MongoDB集群(二): 副本集

在上一篇文章<搭建高可用MongoDB集群(一)--配置MongoDB> 提到了几个问题还没有解决. 主节点挂了能否自动切换连接?目前需要手工切换. 主节点的读写压力过大如何解决? 从节点每个上面的数据都是对数据库全量拷贝,从节点压力会不会过大? 数据压力大到机器支撑不了的时候能否做到自动扩展? 这篇文章看完这些问题就可以搞定了.NoSQL的产生就是为了解决大数据量.高扩展性.高性能.灵活数据模型.高可用性.但是光通过主从模式的架构远远达不到上面几点,由此MongoDB设计了副本集和分片的功能