数据库 之 高并发环境下的规则

原文:数据库 之 高并发环境下的规则

本文大部分转至沈剑老师,加上自己的一些见解。

本文前提

高并发环境

规则要点

1) 数据库字符集使用utf8mb4

无乱码风险、万国码

2)禁止使用存储过程、视图、触发器、Event

高并发大数据的互联网业务,架构设计思路是“解放数据库CPU,将计算转移到服务层”,并发量大的情况下,这些功能很可能将数据库拖死,业务逻辑放到服务层具备更好的扩展性,能够轻易实现“增机器就加性能”。数据库擅长存储与索引,CPU计算还是上移吧

3)禁止存储大文件或者大照片

使用路程存储。建个存储文件的服务器,或者用云端Azure的blob文件存储

4)表名必须英文

5)单实例表数目必须小于500

6)单表列数目必须小于30

7)表必须有主键,建议不要用自增长主键

无主键的表删除,在row模式的主从架构,会导致备库夯住

不用自增长主键是因为当插入数据时,数据库首先会查询最大的索引值,然后再进行插入操作。所以,使用较短的string类型或者guid直接插入。

8)禁止使用外键,如果有外键完整性约束,需要应用程序控制

外键会导致表与表之间耦合,update与delete操作都会涉及相关联的表,十分影响sql 的性能,甚至会造成死锁。高并发情况下容易造成数据库性能,大数据高并发业务场景数据库使用以性能优先

9)须把字段定义为NOT NULL并且提供默认值

null的列使索引/索引统计/值比较都更加复杂,对MySQL(其他数据库差不多)来说更难优化

null 这种类型MySQL内部需要进行特殊处理,增加数据库处理记录的复杂性;同等条件下,表中有较多空字段的时候,数据库的处理性能会降低很多

null值需要更多的存储空,无论是表还是索引中每行中的null的列都需要额外的空间来标识

对null 的处理时候,只能采用is null或is not null,而不能采用=、in、<、<>、!=、not in这些操作符号。如:where name!=’alunchen’,如果存在name为null值的记录,查询结果就不会包含name为null值的记录

10)禁止使用TEXT、BLOB大类型

会浪费更多的磁盘和内存空间,非必要的大量的大字段查询会淘汰掉热数据,导致内存命中率急剧降低,影响数据库性能

11)单表索引个数,建议控制在5个以内

字段超过5个时,实际已经起不到有效过滤数据的作用了

12)禁止在更新十分频繁、区分度不高的属性上建立索引

更新会变更B+树,更新频繁的字段建立索引会大大降低数据库性能

“性别”这种区分度不大的属性,建立索引是没有什么意义的,不能有效过滤数据,性能与全表扫描类似

13)建立组合索引,必须把区分度高的字段放在前面

能够更加有效的过滤数据

14)禁止使用SELECT *

消耗数据库IO性能

不能有效的利用覆盖索引

15)禁止使用INSERT INTO tableA VALUES(xxx),必须显示指定插入的列属性

容易在增加或者删除字段后出现程序BUG

16)禁止使用属性隐式转换

SELECT uid FROM t_user WHERE phone=13800138000 会导致全表扫描,而不能命中phone索引。因为phone是字符串类型,

SQL语句带入的是整形,故不会命中索引,加个引号就好了:

SELECT uid FROM t_user WHERE phone=’13800138000’

17)禁止在WHERE条件的属性上使用函数或者表达式

SELECT uid FROM t_user WHERE from_unixtime(day)>=‘2017-02-15‘ 会导致全表扫描

正确的写法是:SELECT uid FROM t_user WHERE day>= unix_timestamp(‘2017-02-15 00:00:00‘)

18)禁止负向查询,以及%开头的模糊查询

负向查询条件:NOT、!=、<>、!<、!>、NOT IN、NOT LIKE等,会导致全表扫描

%开头的模糊查询,会导致全表扫描。

一般来说,WHERE过滤条件不会只带这么一个“负向查询条件”,还会有其他过滤条件,举个例子:查询我已完成订单之外的订单(好拗口):

SELECT oid FROM t_order WHERE uid=123 AND status != 1;

订单表5000w数据,但uid=123就会迅速的将数据量过滤到很少的级别(uid建立了索引),此时再接上一个负向的查询条件就无所谓了,扫描的行数本身就会很少。

但如果要查询所有已完成订单之外的订单:

SELECT oid FROM t_order WHERE status != 1;

这就挂了,立马CPU100%,status索引会失效,负向查询导致全表扫描。

19)禁止大表使用JOIN查询,禁止大表使用子查询

会产生临时表,消耗较多内存与CPU,极大影响数据库性能

可以关注本人的公众号,多年经验的原创文章共享给大家。

原文地址:https://www.cnblogs.com/lonelyxmas/p/10217610.html

时间: 2024-11-05 00:07:51

数据库 之 高并发环境下的规则的相关文章

高并发环境下生成唯一流水号

高并发环境下生成唯一流水号的主要思路有两种: 第一种是有一个控制全局的变量确保每个流水号的唯一性: 第二种是每台机器根据算法自己生成在系统中无冲突的流水号: 假设流水号的长度是128位(16字节): 第一种实现方法:(1)采用数据库的自增主键确保唯一性: Database.java package mine; import java.sql.Connection; import java.sql.DriverManager; import java.sql.ResultSet; import j

MQ在高并发环境下,如果队列满了,如何防止消息丢失?

1.为什么MQ能解决高并发环境下的消息堆积问题? MQ消息如果堆积,消费者不会立马消费所有的消息,不具有实时性,所以可以解决高并发的问题. 性能比较好的消息中间件:Kafka.RabbitMQ,RocketMQ. 2.什么情况下会产生消息丢失的现象? 消息队列满了的情况下. 3.如何解决消息丢失的问题? (1)生产者可以采用重试机制.因为消费者会不停的消费消息,可以重试将消息放入队列. 如果还是不行,可以将消息记录到数据库,后期做补偿.(不太推荐,不方便) (2)死信队列,可以理解为备胎.(推荐

如何在高并发环境下设计出无锁的数据库操作(Java版本) 转载

一个在线2k的游戏,每秒钟并发都吓死人.传统的hibernate直接插库基本上是不可行的.我就一步步推导出一个无锁的数据库操作. 1. 并发中如何无锁. 一个很简单的思路,把并发转化成为单线程.Java的Disruptor就是一个很好的例子.如果用java的concurrentCollection类去做,原理就是启动一个线程,跑一个Queue,并发的时候,任务压入Queue,线程轮训读取这个Queue,然后一个个顺序执行. 在这个设计模式下,任何并发都会变成了单线程操作,而且速度非常快.现在的n

高并发环境下低级死循环bug

业务背景 在内存中,对mq消息进行分类计数. 问题描述 生产环境,运行一段时间后,发现消息队列有大量堆积.如果把计数逻辑注释掉,只接收用户访问消息而不进行处理,则mq队列无堆积.mq栈dump信息如下: ConsumeMessageThread_75    TID: 214 STATE: WAITING ConsumeMessageThread_75    sun.misc.Unsafe.park(Native Method) ConsumeMessageThread_75    java.ut

高并发环境下,Redisson实现redis分布式锁

原文:http://tlzl0526-gmail-com.iteye.com/blog/2378853 在一些高并发的场景中,比如秒杀,抢票,抢购这些场景,都存在对核心资源,商品库存的争夺,控制不好,库存数量可能被减少到负数,出现超卖的情况,或者 产生唯一的一个递增ID,由于web应用部署在多个机器上,简单的同步加锁是无法实现的,给数据库加锁的话,对于高并发,1000/s的并发,数据库可能由行锁变成表锁,性能下降会厉害.那相对而言,redis的分布式锁,相对而言,是个很好的选择,redis官方推

【高并发】高并发环境下诡异的加锁问题(你加的锁未必安全)

声明 特此声明:文中有关支付宝账户的说明,只是用来举例,实际支付宝账户要比文中描述的复杂的多.也与文中描述的完全不同. 前言 很多网友留言说:在编写多线程并发程序时,我明明对共享资源加锁了啊?为什么还是出问题呢?问题到底出在哪里呢?其实,我想说的是:你的加锁姿势正确吗?你真的会使用锁吗?错误的加锁方式不但不能解决并发问题,而且还会带来各种诡异的Bug问题,有时难以复现! 在上一篇<[高并发]如何使用互斥锁解决多线程的原子性问题?这次终于明白了!>一文中,我们知道在并发编程中,不能使用多把锁保护

高并发场景下缓存+数据库双写不一致问题分析与解决方案设计

Redis是企业级系统高并发.高可用架构中非常重要的一个环节.Redis主要解决了关系型数据库并发量低的问题,有助于缓解关系型数据库在高并发场景下的压力,提高系统的吞吐量(具体Redis是如何提高系统的性能.吞吐量,后面会专门讲). 而我们在Redis的实际使用过程中,难免会遇到缓存与数据库双写时数据不一致的问题,这也是我们必须要考虑的问题.如果还有同学不了解这个问题,可以搬小板凳来听听啦. 一.数据库+缓存双写不一致问题引入 要讲数据库+缓存双写不一致的问题,就需要先讲一下这个问题是怎么发生的

高并发的下的数据库设计

现在都什么年代了,还拿着sql server mysql oracle 读取数据呢,好你们遇到的问题我来给你们解答下 在高并发情况下,谈谈数据库与Redis之间如何进行数据同步(写,读),即能保证业务的完整性,又能提升性能 方式1:数据库保存数据,redis不persistredis启动后,从数据库加载数据不要求强一致实时性的读请求,都由redis处理要求强一致实时性的读请求,由数据库处理写请求有2种处理方式,由数据库处理- 应用先写道数据库,然后更新redis- 应用先写道数据库,然后其它da

高并发压力下导致数据库bug

环境信息:  linux 6.1 + oracle11.2.0.3 RAC 问题现象: 学校晚上6点选课,人数大概有3000,7点时,数据库报错如下(数据库到6点多还是可以连接的),数据库hung住了. Tue Dec 16 18:00:33 2014Dumping diagnostic data in directory=[cdmp_20141216180033], requested by (instance=2, osid=24917 (M001)), summary=[incident=