Mysql面试题及千万级数据查询优化

摘自:https://www.cnblogs.com/lyn20141231/p/11742042.html

今天在说Mysql查询优化之前,我先说一个常见的面试题,并带着问题深入探讨研究。这样会让大家有更深入的理解。

一,Mysql数据库中一个表里有一千多万条数据,怎么快速的查出第900万条后的100条数据?

怎么查,谁能告诉我答案?有没有人想着,不就一条语句搞定嘛

select * from table limit 9000000,100;

那我们试试,去执行下这个SQL看看吧

看见了吗,查了100条数据用了7.063s。这能算的上是快速查询吗,估计没人能接受了这种速度吧!基于这个问题,我今天就要说说大数据时的快速查询了。

首先,我演示下大数据分页查询,我的test表里有1000多万条数据,然后使用limit进行分页测试:select * from test limit 0,100;

耗时:0.005s

select * from test limit 1000,100;

耗时:0.006s

select * from test limit 10000,100;

耗时:0.013s

select * from test limit 100000,100;

耗时:0.104s

select * from test limit 500000,100;

耗时:0.395s

select * from test limit 1000000,100;

耗时:0.823s

select * from test limit 5000000,100;

耗时:3.909s

select * from test limit 10000000,100;

耗时:10.761s

我们发现一个现象,分页查询越靠后查询越慢。这也让我们得出一个结论:

1,limit语句的查询时间与起始记录的位置成正比。

2,mysql的limit语句是很方便,但是对记录很多的表并不适合直接使用。

对大数据量limit分页性能优化

说到查询优化,我们首先想到的肯定是使用索引。利用了索引查询的语句中如果条件只包含了那个索引列,那在这种情况下查询速度就很快了。因为利用索引查找有相应的优化算法,且数据就在查询索引上面,不用再去找相关的数据地址了,这样节省了很多时间。另外Mysql中也有相关的索引缓存,在并发高的时候利用缓存就效果更好了。

我的test表使用InnoDB作为存储引擎,id作为自增主键,默认为主键索引。那我们现在用覆盖索引查询,看看效果如何:

SELECT id FROM test LIMIT 9000000,100;

总耗时4.256s,相对于7.063s少了很多。
现在优化的方案有两种,即通过id作为查询条件使用子查询实现和使用join实现;
1,id>=的(子查询)形式实现

select * from test where id >= (select id from test limit 9000000,1)limit 0,100 

耗时 4.262s;

2,使用join的形式;

SELECT * FROM test a JOIN (SELECT id  FROM test LIMIT 9000000,100) b ON a.id = b.id

耗时 4.251s;这两种优化查询使用时间比较接近,其实两者用的都是一个原理,所以效果也差不多。但个人建议最好使用join,尽量减少子查询的使用。注:目前是千万级别查询,如果将至百万级别,速度会更快,我有亲自测试一下语句,查询时间0.410s。

SELECT * FROM test a JOIN (SELECT id  FROM test LIMIT 1000000,100) b ON a.id = b.id

二,你用过mysql那些存储引擎,他们都有什么特点和区别?

这是高级开发者面试时经常被问的问题。实际我们在平时的开发中,经常会遇到的,在用SQLyog等工具创建表时,就有一个引擎项要你去选。如下图:

Mysql的存储引擎有这么多种,实际我们在平时用的最多的莫过于InnoDB和MyISAM了。所有如果面试官问道mysql有哪些存储引擎,你只需要告诉这两个常用的就行。那他们都有什么特点和区别呢?MyISAM:默认表类型,它是基于传统的ISAM类型,ISAM是Indexed Sequential Access Method (有索引的顺序访问方法) 的缩写,它是存储记录和文件的标准方法。不是事务安全的,而且不支持外键,如果执行大量的select,insert MyISAM比较适合。InnoDB:支持事务安全的引擎,支持外键、行锁、事务是他的最大特点。如果有大量的update和insert,建议使用InnoDB,特别是针对多个并发和QPS较高的情况。注:在MySQL 5.5之前的版本中,默认的搜索引擎是MyISAM,从MySQL 5.5之后的版本中,默认的搜索引擎变更为InnoDB。MyISAM和InnoDB的区别:

1,InnoDB支持事务,MyISAM不支持。对于InnoDB每一条SQL语言都默认封装成事务,自动提交,这样会影响速度,所以最好把多条SQL语言放在begin和commit之间,组成一个事务;

2,InnoDB支持外键,而MyISAM不支持。

3,InnoDB是聚集索引,使用B+Tree作为索引结构,数据文件是和(主键)索引绑在一起的(表数据文件本身就是按B+Tree组织的一个索引结构),必须要有主键,通过主键索引效率很高。MyISAM是非聚集索引,也是使用B+Tree作为索引结构,索引和数据文件是分离的,索引保存的是数据文件的指针。主键索引和辅助索引是独立的。

4,InnoDB不保存表的具体行数,执行select count(*) from table时需要全表扫描。而MyISAM用一个变量保存了整个表的行数,执行上述语句时只需要读出该变量即可,速度很快。

5,Innodb不支持全文索引,而MyISAM支持全文索引,查询效率上MyISAM要高;5.7以后的InnoDB支持全文索引了。

6,InnoDB支持表、行级锁(默认),而MyISAM支持表级锁。;

7,InnoDB表必须有主键(用户没有指定的话会自己找或生产一个主键),而Myisam可以没有。

8,Innodb存储文件有frm、ibd,而Myisam是frm、MYD、MYI。

Innodb:frm是表定义文件,ibd是数据文件。

  Myisam:frm是表定义文件,myd是数据文件,myi是索引文件。

三,Mysql复杂查询语句的优化,你会怎么做?

说到复杂SQL优化,最多的是由于多表关联造成了大量的复杂的SQL语句,那我们拿到这种sql到底该怎么优化呢,实际优化也是有套路的,只要按照套路执行就行。复杂SQL优化方案:

1,使用EXPLAIN关键词检查SQL。EXPLAIN可以帮你分析你的查询语句或是表结构的性能瓶颈,就得EXPLAIN 的查询结果还会告诉你你的索引主键被如何利用的,你的数据表是如何被搜索和排序的,是否有全表扫描等;

2,查询的条件尽量使用索引字段,如某一个表有多个条件,就尽量使用复合索引查询,复合索引使用要注意字段的先后顺序。

3,多表关联尽量用join,减少子查询的使用。表的关联字段如果能用主键就用主键,也就是尽可能的使用索引字段。如果关联字段不是索引字段可以根据情况考虑添加索引。

4,尽量使用limit进行分页批量查询,不要一次全部获取。

5,绝对避免select *的使用,尽量select具体需要的字段,减少不必要字段的查询;

6,尽量将or 转换为 union all。

7,尽量避免使用is null或is not null。

8,要注意like的使用,前模糊和全模糊不会走索引。

9,Where后的查询字段尽量减少使用函数,因为函数会造成索引失效。

10,避免使用不等于(!=),因为它不会使用索引。

11,用exists代替in,not exists代替not in,效率会更好;

12,避免使用HAVING子句, HAVING 只会在检索出所有记录之后才对结果集进行过滤,这个处理需要排序,总计等操作。如果能通过WHERE子句限制记录的数目,那就能减少这方面的开销。

13,千万不要 ORDER BY RAND()

接下来会继续总结一些面试中的问题共享给大家,如果觉得内容不错请关注此公众号,我会不定期的推送一些干货给大家。

推荐阅读:

Api接口文档管理工具,你知道哪些呢?

Java项目支付宝支付接入及详解

微信支付之扫码、APP、小程序支付接入详解

扫码关注公众号,发送关键词获取相关资料:

  1. 发送“Springboot”领取电商项目实战源码;
  2. 发送“SpringCloud”领取cloud学习实战资料;

标签: Mysql优化大数据查询处理

原文地址:https://www.cnblogs.com/xichji/p/11750653.html

时间: 2024-07-31 12:40:06

Mysql面试题及千万级数据查询优化的相关文章

Mysql千万级数据删除实操-企业案例

某天,在生产环节中,发现一个定时任务表,由于每次服务区查询这个表就会造成慢查询,给mysql服务器带来不少压力,经过分析,该表中绝对部分数据是垃圾数据 需要删除,约1050万行,由于缺乏处理大数据的额经验,开始直接使用delete搭配where条件进行清理,最后执行了1个小时也没有完成,后来经过跟查询,1000万条数据 的删除需要几十个小时甚至上百小时,果断放弃,采用了迂回策略. 三步骤策略: 1.抽取需要保留的数据到备份表中 2.truncate旧表 3.备份的数据插入回来 通过以上思路果断在

mysql千万级数据量查询出所有重复的记录

查询重复的字段需要创建索引,多个条件则创建组合索引,各个条件的索引都存在则不必须创建组合索引 有些情况直接使用GROUP BY HAVING则能直接解决:但是有些情况下查询缓慢,则需要使用下面其他的方法 以下是本人整理出来的查询重复数据的SQL,适用于千万级数据量的MYSQL数据库. 1.适用于整数类型的 SELECT DISTINCT UId FROM vehicle WHERE 1=1 GROUP BY UId HAVING(COUNT(UId))>1; 2.分组排序 SELECT UId

完全用nosql轻松打造千万级数据量的微博系统(转)

原文:http://www.cnblogs.com/imxiu/p/3505213.html 其实微博是一个结构相对简单,但数据量却是很庞大的一种产品.标题所说的是千万级数据量 也并不是一千万条微博信息而已,而是千万级订阅关系之间发布.在看 我这篇文章之前,大多数人都看过sina的杨卫华大牛的微博开发大会上的演讲.我这也不当复读机了,挑重点跟大家说一下. 大家都知道微博的难点在于明星会员问题,什么是明星会员问题了,就是刘德华来咱这开了微博,他有几百万的粉丝订阅者,他发一条微博信息,那得一下子 把

转载自lanceyan: 一致性hash和solr千万级数据分布式搜索引擎中的应用

一致性hash和solr千万级数据分布式搜索引擎中的应用 互联网创业中大部分人都是草根创业,这个时候没有强劲的服务器,也没有钱去买很昂贵的海量数据库.在这样严峻的条件下,一批又一批的创业者从创业中获得成功,这个和当前的开源技术.海量数据架构有着必不可分的关系.比如我们使用mysql.nginx等开源软件,通过架构和低成本服务器也可以搭建千万级用户访问量的系统.新浪微博.淘宝网.腾讯等大型互联网公司都使用了很多开源免费系统搭建了他们的平台.所以,用什么没关系,只要能够在合理的情况下采用合理的解决方

转载:30多条mysql数据库优化方法,千万级数据库记录查询轻松解决

1.对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引. 2.应尽量避免在 where 子句中对字段进行 null 值判断,否则将导致引擎放弃使用索引而进行全表扫描, Sql 代码 : select id from t where num is null; 可以在 num 上设置默认值 0,确保表中 num 列没有 null 值,然后这样查询: Sql 代码 : select id from t where num=0; 3.应尽量避免在 wh

能避开很多坑的mysql面试题,你知道吗?

最近有一些朋友问我一些mysql相关的面试题,有一些比较基础,有些比较偏.这里就总结一些常见的mysql面试题吧,都是自己平时工作的总结以及经验.大家看完,能避开很多坑.而且很多问题,都是面试中也经常问到!希望能对大家的面试有一些帮助!!! 比如,下面这些问题: 1.为什么一定要设一个主键? 2.你们主键是用自增还是UUID? 3.自增主机用完了怎么办? 4.主键为什么不推荐有业务含义? 5.货币字段用什么类型?? 6.时间字段用什么类型? 7.为什么不直接存储图片.音频.视频等大容量内容? 8

千万级数据查询

---千万级数据查询if (object_id(N'syspr_TablePaginationSearch',N'P') is not null)drop procedure dbo.syspr_TablePaginationSearchgocreate procedure syspr_TablePaginationSearch(@SelectField nvarchar(512)='*'     -- Select语句字段,调用的时候不要输入"select" ,@FormTables

构建ASP.NET MVC4+EF5+EasyUI+Unity2.x注入的后台管理系统(37)-文章发布系统④-百万级数据和千万级数据简单测试

我想测试EF在一百万条数据下的显示时间!这分数据应该有很多同学想要,看看EF的性能! 服务器 现在来向SQL2008R2插入1000000条数据吧 declare @i int; set @i=0; while @i<1000000 begin INSERT INTO [AppDB].[dbo].[MIS_Article] ([Id] ,[ChannelId] ,[CategoryId] ,[Title] ,[ImgUrl] ,[BodyContent] ,[Sort] ,[Click] ,[C

MySql 笔试题

------前两天刚做了一套Mysql笔试题,分享给大家------------------ 第一部分.单选题(共40分) 1.mysql中唯一索引的关键字是( C  ) A. fulltext index  B.only  index   C.unique index D.index 2.下面关于索引描述中错误的一项是( C   ) A.索引可以提高数据查询的速度 B.索引可以降低数据的插入速度 C.innodb存储引擎支持全文索引 D.删除索引的命令是drop index 3.支持主外键,索