Mysql开发实践8问,你能hold住几个?

最近项目对DB依赖比较重,梳理了这段时间使用Mysql遇到的8个比较具有代表性的问题,答案也比较偏开发实践,没有DBA专业和深入,有出入的请使劲拍砖!...

1、Mysql读写性能是多少,有哪些性能相关的配置参数?

2、Mysql负载高时,如何找到是由哪些SQL引起的?

3、如何针对具体的SQL做优化?

4、SQL层面已难以优化,请求量继续增大时的应对策略?

5、Mysql如何做主从数据同步?

6、如何防止DB误操作和做好容灾?

7、该选择Mysql哪种存储引擎,Innodb具有什么特性?

8、Mysql内部结构有哪些层次?

======================================================

1、Mysql读写性能是多少,有哪些性能相关的重要参数?

* 这里做了几个简单压测实验

机器:8核CPU,8G内存

表结构(尽量模拟业务):12个字段(1个bigint(20)为自增primary key,5个int(11),5个varchar(512),1个timestamp)

实验1(写):insert => 6000/s

前提:连接数100,每次insert单条记录

分析:CPU跑了50%,这时磁盘为顺序写,故性能很高

实验2(写):update(where条件命中索引) => 200/s

前提:连接数100,10w条记录,每次update单条记录的4个字段(2个int(11),2个varchar(512))

分析:CPU跑2%,瓶颈明显在IO的随机写

实验3(读):select(where条件命中索引) => 5000/s

前提:连接数100,10w条记录,每次select单条记录的4个字段(2个int(11),2个varchar(512))

分析:CPU跑6%,瓶颈在IO,和db的cache大小相关

实验4(读):select(where条件没命中索引) => 60/s

前提:连接数100,10w条记录,每次select单条记录的4个字段(2个int(11),2个varchar(512))

分析:CPU跑到80%,每次select都需遍历所有记录,看来索引的效果非常明显!

* 几个重要的配置参数,可根据实际的机器和业务特点调整

max_connecttions:最大连接数

table_cache:缓存打开表的数量

key_buffer_size:索引缓存大小

query_cache_size:查询缓存大小

sort_buffer_size:排序缓存大小(会将排序完的数据缓存起来)

read_buffer_size:顺序读缓存大小

read_rnd_buffer_size:某种特定顺序读缓存大小(如order by子句的查询)

PS:查看配置方法:show variables like ‘%max_connecttions%‘;

======================================================

2、Mysql负载高时,如何找到是由哪些SQL引起的?

* 方法:慢查询日志分析(mysqldumpslow)

* 慢查询日志例子,可看到每个慢查询SQL的耗时:

# [email protected]: edu_online[edu_online] @  [10.139.10.167]

# Query_time: 1.958000  Lock_time: 0.000021 Rows_sent: 254786  Rows_examined: 254786

SET timestamp=1410883292;

select * from t_online_group_records;

日志显示该查询用了1.958秒,返回254786行记录,一共遍历了254786行记录。及具体的时间戳和SQL语句。

* 使用mysqldumpslow进行慢查询日志分析

mysqldumpslow -s t -t 5 slow_log_20140819.txt

输出查询耗时最多的Top5条SQL语句

-s:排序方法,t表示按时间 (此外,c为按次数,r为按返回记录数等)

-t:去Top多少条,-t 5表示取前5条

执行完分析结果如下:

Count: 1076100  Time=0.09s (99065s)  Lock=0.00s (76s)  Rows=408.9 (440058825), edu_online[edu_online]@28hosts

select * from t_online_group_records where UNIX_TIMESTAMP(gre_updatetime) > N

Count: 1076099  Time=0.05s (52340s)  Lock=0.00s (91s)  Rows=62.6 (67324907), edu_online[edu_online]@28hosts

select * from t_online_course where UNIX_TIMESTAMP(c_updatetime) > N

Count: 63889  Time=0.78s (49607s)  Lock=0.00s (3s)  Rows=0.0 (18), edu_online[edu_online]@[10.213.170.137]

select f_uin from t_online_student_contact where f_modify_time > N

Count: 1076097  Time=0.02s (16903s)  Lock=0.00s (72s)  Rows=52.2 (56187090), edu_online[edu_online]@28hosts

select * from t_online_video_info where UNIX_TIMESTAMP(v_update_time) > N

Count: 330046  Time=0.02s (6822s)  Lock=0.00s (45s)  Rows=0.0 (2302), edu_online[edu_online]@4hosts

select uin,cid,is_canceled,unix_timestamp(end_time) as endtime,unix_timestamp(update_time) as updatetime

from t_kick_log where unix_timestamp(update_time) > N

以第1条为例,表示这类SQL(N可以取很多值,这里mysqldumpslow会归并起来)在8月19号的慢查询日志内出现了1076100次,总耗时99065秒,总返回440058825行记录,有28个客户端IP用到。

通过慢查询日志分析,就可以找到最耗时的SQL,然后进行具体的SQL分析了

* 慢查询相关的配置参数

log_slow_queries:是否打开慢查询日志,得先确保=ON后面才有得分析

long_query_time:查询时间大于多少秒的SQL被当做是慢查询,一般设为1S

log_queries_not_using_indexes:是否将没有使用索引的记录写入慢查询日志

slow_query_log_file:慢查询日志存放路径

======================================================

3、如何针对具体的SQL做优化?

* 使用Explain分析SQL语句执行计划

mysql> explain select * from t_online_group_records where UNIX_TIMESTAMP(gre_updatetime) > 123456789;

+----+-------------+------------------------+------+---------------+------+---------+------+------+-------------+

| id | select_type | table                  | type | possible_keys | key  | key_len | ref  | rows | Extra       |

+----+-------------+------------------------+------+---------------+------+---------+------+------+-------------+

|  1 | SIMPLE      | t_online_group_records | ALL  | NULL          | NULL | NULL    | NULL |   47 | Using where |

+----+-------------+------------------------+------+---------------+------+---------+------+------+-------------+

1 row in set (0.00 sec)

如上面例子所示,重点关注下type,rows和Extra:

type:使用类别,有无使用到索引。结果值从好到坏:... > range(使用到索引) > index > ALL(全表扫描),一般查询应达到range级别

rows:SQL执行检查的记录数

Extra:SQL执行的附加信息,如"Using index"表示查询只用到索引列,不需要去读表等

* 使用Profiles分析SQL语句执行时间和消耗资源

mysql> set profiling=1; (启动profiles,默认是没开启的)

mysql> select count(1) from t_online_group_records where UNIX_TIMESTAMP(gre_updatetime) > 123456789; (执行要分析的SQL语句)

mysql> show profiles;

+----------+------------+----------------------------------------------------------------------------------------------+

| Query_ID | Duration   | Query                                                                                        |

+----------+------------+----------------------------------------------------------------------------------------------+

|        1 | 0.00043250 | select count(1) from t_online_group_records where UNIX_TIMESTAMP(gre_updatetime) > 123456789 |

+----------+------------+----------------------------------------------------------------------------------------------+

1 row in set (0.00 sec)

mysql> show profile cpu,block io for query 1; (可看出SQL在各个环节的耗时和资源消耗)

+----------------------+----------+----------+------------+--------------+---------------+

| Status               | Duration | CPU_user | CPU_system | Block_ops_in | Block_ops_out |

+----------------------+----------+----------+------------+--------------+---------------+

...

| optimizing           | 0.000016 | 0.000000 |   0.000000 |            0 |             0 |

| statistics           | 0.000020 | 0.000000 |   0.000000 |            0 |             0 |

| preparing            | 0.000017 | 0.000000 |   0.000000 |            0 |             0 |

| executing            | 0.000011 | 0.000000 |   0.000000 |            0 |             0 |

| Sending data         | 0.000076 | 0.000000 |   0.000000 |            0 |             0 |

...

* SQL优化的技巧 (只提一些业务常遇到的问题)

1、最关键:索引,避免全表扫描。

对接触的项目进行慢查询分析,发现TOP10的基本都是忘了加索引或者索引使用不当,如索引字段上加函数导致索引失效等(如where UNIX_TIMESTAMP(gre_updatetime)>123456789)

+----------+------------+---------------------------------------+

| Query_ID | Duration   | Query                                 |

+----------+------------+---------------------------------------+

|        1 | 0.00024700 | select * from mytable where id=100    |

|        2 | 0.27912900 | select * from mytable where id+1=101  |

+----------+------------+---------------------------------------+

另外很多同学在拉取全表数据时,喜欢用select xx from xx limit 5000,1000这种形式批量拉取,其实这个SQL每次都是全表扫描,建议添加1个自增id做索引,将SQL改为select xx from xx where id>5000 and id<6000;

+----------+------------+-----------------------------------------------------+

| Query_ID | Duration   | Query                                               |

+----------+------------+-----------------------------------------------------+

|        1 | 0.00415400 | select * from mytable where id>=90000 and id<=91000 |

|        2 | 0.10078100 | select * from mytable limit 90000,1000              |

+----------+------------+-----------------------------------------------------+

合理用好索引,应该可解决大部分SQL问题。当然索引也非越多越好,过多的索引会影响写操作性能

2、只select出需要的字段,避免select *

+----------+------------+-----------------------------------------------------+

| Query_ID | Duration   | Query                                               |

+----------+------------+-----------------------------------------------------+

|        1 | 0.02948800 | select count(1) from ( select id from mytable ) a   |

|        2 | 1.34369100 | select count(1) from ( select * from mytable ) a    |

+----------+------------+-----------------------------------------------------+

3、尽量早做过滤,使Join或者Union等后续操作的数据量尽量小

4、把能在逻辑层算的提到逻辑层来处理,如一些数据排序、时间函数计算等

5、......

PS:关于SQL优化,KM已经有足够多文章了,所以就不讲太全面了,只重点说自己1个感受:索引!基本都是因为索引!

======================================================

4、SQL层面已难以优化,请求量继续增大时的应对策略?

* 下面是我能想到的几个方法,每个方法又都是一篇大文章了,这里就不展开

分库分表

使用集群(master-slave),读写分离

增加业务的cache层

使用连接池

======================================================

5、Mysql如何做主从数据同步?

* 复制机制(Replication)

master通过复制机制,将master的写操作通过binlog传到slave生成中继日志(relaylog),slave再将中继日志redo,使得主库和从库的数据保持同步

* 复制相关的3个Mysql线程

1、slave上的I/O线程:向master请求数据

2、master上的Binlog Dump线程:读取binlog事件并把数据发送给slave的I/O线程

3、slave上的SQL线程:读取中继日志并执行,更新数据库

属于slave主动请求拉取的模式

* 实际使用可能遇到的问题

数据非强一致:默认为异步复制,master和slave的数据会有一定延迟(称为主从同步距离,一般<1s)

主从同步距离变大:可能是DB写入压力大,也可能是slave机器负载高,网络波动等原因,具体问题具体分析

* 相关监控命令

show processlist :查看Mysql进程信息,包括3个同步线程的当前状态

show master status :查看master配置及当前复制信息

show slave status :查看slave配置及当前复制信息

======================================================

6、如何防止DB误操作和做好容灾?

* 业务侧应做到的几点:

重要DB数据的手工修改操作,操作前需做到2点:1 先在测试环境操作 2 备份数据

根据业务重要性做定时备份,考虑系统可承受的恢复时间

进行容灾演练,感觉很必要

* Mysql备份和恢复操作

1、备份:使用mysqldump导出数据

mysqldump -u 用户名 -p 数据库名 [表名] > 导出的文件名

mysqldump -uroot -p test mytable > mytable.20140921.bak.sql

2、恢复:导入备份数据

mysql -uroot -p test < mytable.20140921.bak.sql

3、恢复:导入备份数据之后发送的写操作。先使用mysqlbinlog导出这部分写操作SQL(基于时间点或位置)

如导出2014-09-21 09:59:59之后的binlog:

mysqlbinlog --database="test" --start-date="2014-09-21 09:59:59" /var/lib/mysql/mybinlog.000001 > binlog.data.sql

如导出起始id为123456之后的binlog:

mysqlbinlog --database="test" --start-position="123456" /var/lib/mysql/mybinlog.000001 > binlog.data.sql

最后把要恢复的binlog导入db

mysql -uroot -p test < binlog.data.sql

======================================================

7、该选择Mysql哪种存储引擎,Innodb具有什么特性?

* 存储引擎简介

插件式存储引擎是Mysql的重要特性,Mysql支持多种存储引擎以满足用户的多种应用场景

存储引擎解决的问题:如何组织mysql数据在介质中高效地读取,需考虑存储机制、索引设计、并发读写的锁机制等

Mysql5.0支持的存储引擎有MyISAM、InnoDB、Memory、Merge等

* MyISAM和InnoDB的区别(只说重点了)

1、InnoDB

Mysql5.5之后默认引擎。

1 支持行锁:并发性能好

2 支持事务:故InnoDB称为事务性存储引擎,支持ACID,提供了具有提交、回滚和崩溃恢复能力的事务安全

3 支持外键:当前唯一支持外键的引擎

2、MyISAM

Mysql5.5之前默认引擎。

1 支持表锁:插入+查询速度快,更新+删除速度慢

2 不支持事务

* 使用show engines可查看当前Mysql支持的存储引擎详情

======================================================

8、Mysql内部结构有哪些层次?

* 非专业DBA,这里只简单贴个结构图说明下。Mysql是开源系统,其设计思路和源代码都出自大牛之手,有空可以学习下。

1 Connectors:连接器。接收不同语言的Client交互

2 Management Serveices & Utilities:系统管理和控制工具

3 Connection Pool: 连接池。管理用户连接

4 SQL Interface: SQL接口。接受用户的SQL命令,并且返回用户需要查询的结果

5 Parser: 解析器。验证和解析SQL语句成内部数据结构

6 Optimizer: 查询优化器。为查询语句选择合适的执行路径

7 Cache和Buffer:查询缓存。缓存查询的结果,有命中即可直接返回

8 Engine :存储引擎。Mysql数据最后组织并存储成具体文件

时间: 2024-10-11 00:43:35

Mysql开发实践8问,你能hold住几个?的相关文章

MySQL 开发实践 8 问,你能 hold 住几个?

最近研发的项目对DB依赖比较重,梳理了这段时间使用MySQL遇到的8个比较具有代表性的问题,答案也比较偏自己的开发实践,没有DBA专业和深入,有出入的请使劲拍砖!- MySQL读写性能是多少,有哪些性能相关的配置参数? MySQL负载高时,如何找到是由哪些SQL引起的? 如何针对具体的SQL做优化? SQL层面已难以优化,请求量继续增大时的应对策略? MySQL如何做主从数据同步? 如何防止DB误操作和做好容灾? 该选择MySQL哪种存储引擎,Innodb具有什么特性? MySQL内部结构有哪些

Redis的Python实践,以及四中常用应用场景详解——学习董伟明老师的《Python Web开发实践》

首先,简单介绍:Redis是一个基于内存的键值对存储系统,常用作数据库.缓存和消息代理. 支持:字符串,字典,列表,集合,有序集合,位图(bitmaps),地理位置,HyperLogLog等多种数据结构. 支持事务.分片.主从复之.支持RDB(内存数据保存的文件)和AOF(类似于MySQL的binlog)两种持久化方式.3.0加入订阅分发.Lua脚本.集群等特性. 命令参考:http://doc.redisfans.com 中文官网:http://www.redis.net.cn 安装(都大同小

MySQL开发指南

数据库开发是数据库管理系统(DBMS)和数据库应用软件设计研发的总称,数据运维.参与数据库生产环境的问题优化和解决等方面的事宜. 1.关于MySQL数据库 2.搭建MySQL环境 3.入门常用SQL.官方文档的使用 对于开发而言: SQL是基础中的基础!!! SQL是操作和检索关系型数据库的标准语言,标准SQL语句可用于操作关系型数据库. 下面是基于MySQL的SQL分析研究: 一.DQL(Data Query Language,数据查询语言)语句 主要由于select关键字完成,查询语句是SQ

生产级Nodejs开发实践-使用连接池

引言 做后端开发免不了要和一些 存储服务器, 消息服务器 等等 打交道. 起因 (传统模式, 读取数据库) 大家都知道和这些使用 tcp连接 的服务传递数据的都必须要打开 一个 连接-connection 例如我们打开一个数据库并执行一段 sql, 通常都是 connection = open "mysql://127.0.0.1:3306/db" (打开数据库,并取得持有连接的句柄) data = connection.exec "select * from table1&

Android开发实践:由new Handler()说开去

最近面试一些Android开发的应聘者,除了基本的Activity生命周期等基础问题以外,我一般还会问如下两个问题: (1) Service与Thread有什么区别? (2) 在Activity里new Handler()和在自己创建的Thread中new Handler()有什么区别? 第一个问题其实是一个伪命令,因为Service是Android四大组件之一,而Thread只是Java提供的一个封装了线程管理的工具类,无论是Activity还是Service,都可以通过Thread来创建一个

敏捷开发实践总结?EUMs

为了更好的阅读体验,欢迎访问 作者博客原文 项目回顾 项目背景 EUMs(End User Monitor System)是一个在线的物资跟踪监控系统.由ThoughtWorks团队为Unicef(United Nations International Children's Emergency Fund,联合国儿童基金会,客户)提供的一套完善的软件交付服务. 该系统为资助物资的跟踪与监控提供了完整的网络解决方案.整个流程涵盖了Unicef对物资来源的管控.库存管理.物资下发与跟踪.Unicef

Hybrid App 开发实践总结

引言 随着 Web 技术和移动设备的快速发展,Hybrid 技术已经成为一种最主流最常见的方案.一套好的 Hybrid架构方案 能让 App 既能拥有极致的体验和性能,同时也能拥有 Web技术 灵活的开发模式.跨平台能力以及热更新机制,想想是不是都鸡冻不已..??.本系列文章是公司在这方面实践的一个总结! Native App 开发模式 Native App,原生APP,使用原生(即Android或iOS)开发的APP.应用的性能好是无容置疑的,但是企业大都处于尝试和摸索期,企业需要在短时间内快

【小程序】微信小程序开发实践

帐号相关流程 注册范围 企业 政府 媒体 其他组织 换句话讲就是不让个人开发者注册. :) 填写企业信息 不能使用和之前的公众号账户相同的邮箱,也就是说小程序是和微信公众号一个层级的. 填写公司机构信息,对公账户信息 绑定管理员微信 企业认证 公司对公账户对微信进行打款 账户自动验证后,自动认证通过,并将认证资金退回公司对公账户,费用在1元内随机 小程序发布流程 开发实践 这次的demo项目为农历和公历的转换器,重在体验开发流程. AppID(小程序ID) 做上面的那些步骤就是为了得到小程序ID

使用ADO实现BLOB数据的存取 -- ADO开发实践之二

使用ADO实现BLOB数据的存取 -- ADO开发实践之二 http://www.360doc.com/content/11/0113/16/4780948_86256633.shtml 一.前言 在上一篇文章<>中我们详细介绍了ADO基本的操作方法,在实际的开发过程中我们常常需要存储较大的二进制数据对象,比如:图像.音频文件.或其它二进制数据,这些数据我们称之为二进制大对象BLOB(Binary Large Object),其存取的方式与普通数据有所区别.本文将介绍利用ADO在数据库中存取B