磊哥评测之数据库:腾讯云MongoDB vs自建

本文由云+社区发表

作者:磊哥

上期文章我们聊到了redis。这期我们来说说另一个网红nosql数据库:MongoDB。有这么一个介绍MongoDB的说法是:MongoDB是非关系数据库当中功能最丰富,最像关系数据库的。这么说是因为作为一个面向文档存储型、数据结构非常松散自由的的数据库,却拥有着丰富的功能特性如强大灵活的查询语言、支持二级索引等特性,新版本的MongDB甚至还支持事务。听小伙伴说MongoDB不仅功能丰富,而且读性能强大到远远把MySQL甩在后面,今天我就代替大家来动手进行一下数据库测试,揭开MongoDB的神秘“面纱”。

为了进行数据库对比测试,这次我购买了腾讯云MongoDB的主从版(1主2从),同时在同样配置的云主机自建MongoDB作为对比。

下面给出CentOS7 64位上安装MongoDB 3.6的实践如下:

vim /etc/yum.repos.d/mongod-org.repo

编辑内容如下:

[mongodb-org]

name=MongoDB Repository

baseurl=https://repo.mongodb.org/yum/redhat/$releasever/mongodb-org/3.6/x86_64/

gpgcheck=1

enabled=1

gpgkey=https://www.mongodb.org/static/pgp/server-3.6.asc

执行指令yum install mongodb-org -y安装

vim /etc/mongod.conf

此处根据自己需求修改bindIp: 0.0.0.0 #监听地址 port: 27017 #监听端口

systemctl start mongod.service #开启服务

netstat -anpt | grep 27017 #检查是否启动

服务开启后可以使用上面的指令测试服务是否启动,如果成功启动的话会看到结果如下图所示:

如果无法启动,需要根据日志分析具体原因。根据笔者的实践,大部分的原因会落在配置和权限上。如果排除错误太难,建议重新安装来的快一点。

接下来需要安装数据库测试工具,这次我们使用YCSB,雅虎开发的一个很强大的测试工具。

在安装YCSB前需要安装Java和Maven,测试前需要在workloads文件夹中创建配置文件,配置如下图所示:

考虑到购买的mongoDB是副本集配置,一个主节点带两个从节点,我们在本地也配置好副本集群,使用用 ./mongod --replSet amymongo --dbpath /data/27019 --port 27019 --logpath /var/log/mongodb/27019.log --fork 配置从节点,具体配置和初始化方法参考https://cloud.tencent.com/developer/article/1379231(当然部署在本机的方案不能保证高可用)

在workloads中防止配置文件,我们选择插入1千万条记录,执行1千万次操作,测试两种场景:read/update 9:1和纯insert场景。

废话少说,下面就一起来看看测试结果吧。

场景读更新read/update 9:1,单位ops/sec:

场景纯写入insert,单位ops/sec:

场景读更新read/update 9:1,单位us(延时):

场景纯写入insert,单位us(延时):

看来mongodb真的是一个高性能的数据库,为啥呢,因为mongo的延时单位居然是us微秒、微秒、微秒。。。16GB的内存基本上20线程之后延时就会大大增加,在100线程的时候基本上延时基本在1000us以上,而读多场景跟写入场景相比,写入场景的性能略差一点,随着线程数的增大,写入场景的吞吐量和延时表现和读更新场景的差距会扩大。

有读者可能会有疑惑,既然数据库测试是比较云和自建,看起来差距也没有那么大,用自建好像也可以接受啊。这里我要把测试中的发现讲给大家听,听完之后大家就明白了。

第一点,笔者买的是16G内存的机器(流下了没有钱的泪水),测试的时候发现cvm的内存占用基本到了百分之60左右,笔者在建立副本集和加大测试数据量(购买数据量的百分之80)之后发现,内存占用基本到了百分之80以上。看来mongo的第一个缺点,就是对内存的消耗真的非常可怕!!如果遇到高并发大数据量读写,恐怕分分钟就存在着存在着OOM的风险。

所以这里奉劝各位同学,如果要自建MongoDB,还是尽量购买超大内存满足业务需求,避免在业务高峰的时候被“干掉”。如果因为跟笔者一样贫穷不想买那么大的内存,可以考虑使用云数据库,云MongoDB具备动态伸缩能力,即使没有买够大的内存,也完全来得及在业务高峰扩容, 即使发生故障,也有完善的数据自动备份和无损恢复机制来恢复数据,在可用性上保障就高多了。

第二点,笔者在后续测试本地副本集的时候,尝试读secondary节点的数据,结果遇到了读延迟很高的情况。在网上研究了一下发现是因为,MongoDB 复制集里 Secondary 不断从主上批量拉取 oplog,然后在本地重放,以保证数据与 Primary 一致。这里为了防止脏读,会加一个锁阻塞所有的读请求。

所以如果遇到 Secondary 重放 oplog 占用锁时间长,读取的延时也会对应变长。这个锁最高能锁多久呢,看到有个案例锁了接近一个小时。。。看到的人内心一定是崩溃的,而在云Mongo测试的时候没有遇到这个情况,我想这一定是针对这个缺陷做了很大的改进,使用了其他方法实现同步。

总的来说,MongoDB确实可以不借助其他第三方工具实现高可用和分片功能,具备的高可用的故障切换,分片可以实现数据的分部均衡,大数据量的时候通过路由实现了服务器的负载均衡。所以MongoDB自身的可用性较高,也难怪会在短短时间内成为流行的nosql数据库。

但是MongoDB也存在着一些坑:如对内存的占用过高、对网络的占用过高、存在从节点锁导致读几乎不可用的情况,这些情况在实际业务使用的时候会导致很严重的问题,集群宕机、服务瘫痪、数据丢失无时不刻不是覆盖在运维同学心头的阴影。这个时候云MongoDB几乎就是救星,弹性伸缩、随时扩容、真正安全的数据热备以及强大的专业运维架构师团队,才能真的确保业务安全无故障的运行下去。

写到这里,笔者也在思考,云数据库到底是什么,它仅仅是把数据库封装一下,改改内核,提供给使用者吗?不,云数据库应当是一整套专业服务,除了数据库之外,还有监控、安全、迁移、灾备、运维等一系列的服务提供。能让业务开发专注于业务本身,把专业的交给专业的人去做。

此文已由腾讯云+社区在各渠道发布

获取更多新鲜技术干货,可以关注我们腾讯云技术社区-云加社区官方号及知乎机构号

原文地址:https://www.cnblogs.com/qcloud1001/p/10436381.html

时间: 2024-07-30 20:16:35

磊哥评测之数据库:腾讯云MongoDB vs自建的相关文章

磊哥测评之数据库SaaS篇:腾讯云控制台、DMC和小程序

本文由云+社区发表 作者:腾讯云数据库 随着云计算和数据库技术的发展,数据库正在变得越来越强大.数据库的性能如处理速度.对高并发的支持在节节攀升,同时分布式.实时的数据分析.兼容主流数据库等强大的性能正在越来越多的新型数据库上实现. 然而另一方面,数据库需要承担的业务越来越重,面临的场景也越来越复杂,开发者和运维人员不但日常需要管理超级复杂的数据,也会频繁面推的业务告警和突发状况. 那么如何解决这个令人头痛的问题呢?这时候如果有一个安全高效的远程数据库管理工具,不但能搞定数据库性能的实时监控和诊

成功入选“实力竞争者”,腾讯云数据库再获国际权威机构认可

近日,国际领先的行业研究与咨询机构Forrester正式对外发布全球最新的数据库评估报告<The Forrester Wave™: Database-As-A-Service, Q2 2019>,腾讯云数据库(TencentDB)凭借优异的产品性能以及敏捷.灵活的部署能力,首度成功入选Forrester数据库厂商“实力竞争者” 领域. 9项指标获评“优秀” Forrester是一家被全球认可的可信赖的市场研究与咨询公司.此次,Forrester通过对数据库厂商的产品矩阵.战略和市场表现三大维度

突破、进化,腾讯云数据库2018全年盘点

在企业上云逐渐加速的背景下,云数据库作为企业重要的IT基础设施,其重要性毋庸置疑.各大云计算厂商不惜重金,纷纷在产品和技术层面加大布局,争夺这一重要的云服务市场.纵观国内前几大云服务商过去一年的云数据库领域的发展,腾讯云基于自身强大的业务支撑以及技术研发实力,在云数据库市场的突破格外引人注目. 具体来说,针对存量市场,2018年下半年,腾讯云重磅推出云原生数据库CynosDB,该款数据库的单节点读性能达到惊人的130万QPS,超过业内目前最高100万QPS水平,而价格只是市面上商业数据库的1/1

腾讯云TDSQL审计原理揭秘

版权声明:本文由孙勇福原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/244 来源:腾云阁 https://www.qcloud.com/community 作者简介:孙勇福,腾讯云高级工程师,负责腾讯云TDSQL产品研发,毕业至今一直从事数据存储系统运维和研发工作,在数据库领域以及NoSQL领域具有丰富的运维和开发经验. 开源数据库往往不具备商业数据库一样的高端能力,但是却因简单易用,无需license费用等深得大家喜

腾讯云认证云从业者考试系列

本文列举腾讯云从业者认证的考试范围.知识点.分数比例.教程学习地址.一些官方资料文档. 目录 1,考核要求.知识点分布 2,课程大纲.分数值比例 3,学习路线 4,学习帮助 5,学习资源导航 6,腾讯云从业者认证 资料共享.例题分析.习题实战 考核要求 了解云计算相关的基本概念,理解云计算对业务的影响. 理解腾讯云提供的基础产品和服务的功能:云服务器,云网络,云CDN,云存储,云数据库,云安全. 了解腾讯云提供的基础产品和服务的灵活应用场景. 理解腾讯云提供的基础产品和服务的优势. 理解腾讯云基

云 MongoDB 优化让 LBS 服务性能提升十倍

欢迎大家前往腾讯云技术社区,获取更多腾讯海量技术实践干货哦~ 随着国内服务共享化的热潮普及,共享单车,共享雨伞,共享充电宝等各种服务如雨后春笋,随之而来的LBS服务定位问题成为了后端服务的一个挑战.MongoDB对LBS查询的支持较为友好,也是各大LBS服务商的首选数据库.腾讯云MongoDB团队在运营中发现,原生MongoDB在LBS服务场景下有较大的性能瓶颈,经腾讯云团队专业的定位分析与优化后,云MongoDB在LBS服务的综合性能上,有10倍以上的提升.腾讯云MongoDB提供的优异综合性

腾讯云服务器centos 6.5(jdk+tomcat+vsftp)、腾讯mysql数据库 及 tomcat自启动 配置教程

1.腾讯云数据库配置 1.考虑到安全性问题,,平常不使用root用户登录,新增一个用户名neil,用来管理项目的数据库 a.首先登录root创建db_AA数据库 b.在root用户下,创建neil用户,并对neil用户授权对db_AA数据库所有操作. GRANT ALL ON db_AA.* TO [email protected]"%" IDENTIFIED BY "XXXX"; 2.将现有数据导入到数据库中 注意:尽量不要使用Myeclipse.Navicat等

腾讯云数据库团队:MySQL5.7 JSON实现简介

作者介绍:吴双桥 腾讯云工程师 阅读原文,更多技术干货,请访问腾云阁. 本文主要介绍在MySQL 5.7.7开始引入的非结构化数据类型JSON的特性以及具体的实现方式(包括存储方式).首先介绍为什么要引入JSON的原生数据类型的支持:接着介绍MySQL给用户提供的JSON操作函数,以及JSON路径表达式语法,结合两者,用户可以在数据库级别操作JSON的任意键值和数据:之后,重点介绍JSON在服务器侧的存储结构,这也是深入理解很多其他JSON特性的根基:在最后介绍JSON作为新数据类型的比较与排序

腾讯云数据库团队:MySQL语句复制(SBR)的缺陷列举

作者介绍: 赵伟 腾讯云TDSQL数据库开发者 MySQL (这里的MySQL是指广义的mysql,包括oracle,mysql,percona,mariadb等)的Statement Based Replication (SBR)是一个暗坑无数的功能,可能导致主备机数据不一致,以及其它问题,所以在TDSQL中我们使用RBR.这里就列举几条SBR的坑. 在此之前,先说说SBR的有点.与Row based Replication (RBR)相比,它可以避免传输大量的binlog日志从而减小网络和存