MySQL中IN子查询会导致无法使用索引

原文:MySQL中IN子查询会导致无法使用索引

今天看到一个博客园的一篇关于MySQL的IN子查询优化的案例,
一开始感觉有点半信半疑(如果是换做在SQL Server中,这种情况是绝对不可能的,后面会做一个简单的测试。)
随后动手按照他说的做了一个表来测试验证,发现MySQL的IN子查询做的不好,确实会导致无法使用索引的情况(IN子查询无法使用所以,场景是MySQL,截止的版本是5.7.18)

MySQL的测试环境

测试表如下

create table test_table2
(
    id int auto_increment primary key,
    pay_id int,
    pay_time datetime,
    other_col varchar(100)
)

建一个存储过程插入测试数据,测试数据的特点是pay_id可重复,这里在存储过程处理成,循环插入300W条数据的过程中,每隔100条数据插入一条重复的pay_id,时间字段在一定范围内随机

CREATE DEFINER=`root`@`%` PROCEDURE `test_insert`(IN `loopcount` INT)
    LANGUAGE SQL
    NOT DETERMINISTIC
    CONTAINS SQL
    SQL SECURITY DEFINER
    COMMENT ‘‘
BEGIN

    declare cnt int;
    set  cnt = 0;
    while cnt< loopcount do
        insert into test_table2 (pay_id,pay_time,other_col) values  (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
        if (cnt mod 100 = 0) then
            insert into test_table2 (pay_id,pay_time,other_col) values  (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
        end if;
        set cnt = cnt + 1;
    end while;
END

  执行 call test_insert(3000000); 插入303000行数据

两种子查询的写法

查询大概的意思是查询某个时间段之内的业务Id大于1的数据,于是就出现两种写法。

第一种写法如下:IN子查询中是某段时间内业务统计行数大于1的业务Id,外层按照IN子查询的结果进行查询,业务Id的列pay_id上有索引,逻辑也比较简单,
这种写法,在数据量大的时候确实效率比较低,用不到索引

select * from test_table2 force index(idx_pay_id)
where pay_id in (
  select pay_id from test_table2
  where pay_time>="2016-06-01 00:00:00"
    AND pay_time<="2017-07-03 12:59:59"
  group by pay_id
  having count(pay_id) > 1
);

执行结果:2.23秒

第二种写法,与子查询进行join关联,这种写法相当于上面的IN子查询写法,下面测试发现,效率确实有不少的提高

select tpp1.* from test_table2 tpp1,
(
     select pay_id
     from test_table2
      WHERE pay_time>="2016-07-01 00:00:00"
     AND pay_time<="2017-07-03 12:59:59"
     group by pay_id
     having count(pay_id) > 1
) tpp2
where tpp1.pay_id=tpp2.pay_id 

  执行结果:0.48秒

  

  In子查询的执行计划,发现外层查询是一个全表扫描的方式,没有用到pay_id上的索引

  

  join自查的执行计划,外层(tpp1别名的查询)是用到pay_id上的索引的。

  

  

  后面想对第一种查询方式使用强制索引,虽然是不报错的,但是发现根本没用

  

  如果子查询是直接的值,则是可以正常使用索引的。

  

  

  可见MySQL对IN子查询的支持,做的确实不怎么样。

  另外:加一个使用临时表的情况,虽然比不少join方式查询的,但是也比直接使用IN子查询效率要高,这种情况下,也是可以使用到索引的,不过这种简单的情况,是没有必要使用临时表的。

  

  

  下面是类似案例在sqlserver 2014中的测试,几乎完全一样的测试表结构和数量,可见这种情况下,两种写法,在SQL Server中可以认为是完全一样的(执行计划+效率),这一点SQL Server要比MySQL强不少

  下面是sqlserver中的测试环境脚本。

create table test_table2
(
    id int identity(1,1) primary key,
    pay_id int,
    pay_time datetime,
    other_col varchar(100)
)

begin  tran
declare @i int = 0
while @i<300000
begin
    insert into test_table2 values (@i,getdate()-rand()*300,newid());
    if(@i%1000=0)
    begin
        insert into test_table2 values (@i,getdate()-rand()*300,newid());
    end
    set @i = @i + 1
end
COMMIT
GO

create index idx_pay_id on test_table2(pay_id);
create index idx_time on test_table2(pay_time);
GO

select * from test_table2
where pay_id in (
                    select pay_id from test_table2
                    where pay_time>=‘2017-01-21 00:00:00‘
                    AND pay_time<=‘2017-07-03 12:59:59‘
                    group by pay_id
                    having count(pay_id) > 1
                );

select tpp1.* from test_table2 tpp1,
(
     select pay_id
     from test_table2
      WHERE pay_time>=‘2017-01-21 00:00:00‘
     AND pay_time<=‘2017-07-30 12:59:59‘
     group by pay_id having
     count(pay_id) > 1
) tpp2
where tpp1.pay_id=tpp2.pay_id
 

总结:在MySQL数据中,截止5.7.18版本,对IN子查询,仍要慎用

时间: 2024-08-25 00:05:58

MySQL中IN子查询会导致无法使用索引的相关文章

详细讲述MySQL中的子查询操作 (来自脚本之家)

继续做以下的前期准备工作: 新建一个测试数据库TestDB: ? 1 create database TestDB; 创建测试表table1和table2: ? 1 2 3 4 5 6 7 8 9 10 11 12 13 CREATE TABLE table1 (   customer_id VARCHAR(10) NOT NULL,   city VARCHAR(10) NOT NULL,   PRIMARY KEY(customer_id) )ENGINE=INNODB DEFAULT CH

Mysql中的子查询等操作

1.delete和truncate 区别? 1.1 delete慢 ,Truncate快 1.20delete记录日志,所以慢 truncate不记录日志 1.31 删除所有记录后,主键值delete 不是从1编号,Truncate会从1开始编号 1.43 truncate不能删除有外键的主表 1.5 delete 可以 加where ,删除部分记录 2.两种引擎 InnoDB:支持事务 MyISAM: 3.添加 insert into grade(字段名称) values(对应) 修改 upd

MySQL里面的子查询

一.子查询定义 定义: 子查询允许把一个查询嵌套在另一个查询当中. 子查询,又叫内部查询,相对于内部查询,包含内部查询的就称为外部查询. 子查询可以包含普通select可以包括的任何子句,比如:distinct. group by.order by.limit.join和union等:但是对应的外部查询必须是以下语句之一:select.insert.update.delete.set或 者do. 子查询的位置: select 中.from 后.where 中.group by 和order by

mysql中的模糊查询

转载自:http://www.letuknowit.com/archives/90/ MySQL中实现模糊查询有2种方式:一是用LIKE/NOT LIKE,二是用REGEXP/NOT REGEXP(或RLIKE/NOT RLIKE,它们是同义词). 第一种是标准的SQL模式匹配.它有2种通配符:“_”和“%”.“_”匹配任意单个字符,而“%”匹配任意多个字符(包括0个).举例如下: SELECT * FROM table_name WHERE column_name LIKE ‘m%’; #查询

MySQL学习笔记-子查询和连接

MySQL学习笔记-子查询和连接 使客户端进入gbk编码方式显示: mysql> SET NAMES gbk; 1.子查询 子查询的定义: 子查询(Subquery)是指出现在其他SQL语句内的SELECT子句. 例如:  SELECT * FROM t1 WHERE col1 = (SELECT col2 FROM t2); 其中SELECT * FROM t1 称为Outer Query / Outer Statement (外部查询) SELECT col2 FROM t2 , 被称为Su

MySql数据库之子查询和高级应用

MySql数据库中的子查询: 子查询:在一条select查询语句中嵌套另一条select语句,其主要作用是充当查询条件或确定数据源. 代码案例如下: 例1. 查询大于平均年龄的学生: select * from students where age > (select avg(age) from students); 例2. 查询学生在班的所有班级名字: select name from classes where id in (select cls_id from students where

子查询三(在FROM子句中使用子查询)

FROM子句中使用子查询一般都是返回多行多列,可以将其当作一张数据表 示例一.查询出每个部门的编号,名称,位置,部门人数,平均工资 SELECT d.deptno,d.dname,d.loc,temp.con,temp.avgsal FROM dept d,(SELECT deptno dno,COUNT(empno) con,ROUND (AVG(sal),2) avgsal FROM emp GROUP BY deptno) temp WHERE d.deptno=temp.dno; 示例二

子查询一(WHERE中的子查询)

子查询 子查询就是指的在一个完整的查询语句之中,嵌套若干个不同功能的小查询,从而一起完成复杂查询的一种编写形式,为了让读者更加清楚子查询的概念. 子查询返回结果子查询可以返回的数据类型一共分为四种: 单行单列:返回的是一个具体列的内容,可以理解为一个单值数据: 单行多列:返回一行数据中多个列的内容: 多行单列:返回多行记录之中同一列的内容,相当于给出了一个操作范围: 多行多列:查询返回的结果是一张临时表: 在WHERE子句中使用子查询 在WHERE子句之中处理单行单列子查询.多行单列子查询.单行

mysql中的高级查询

mysql中的高级查询 以前学习的查询语法:   select 字段名 from 表名 where 条件   其实,查询的语法变化很多: 1. select 可以查询表达式, 表达式就是 运算符+操作数. 比如 1 + 1   2 * 3  2-1+5*9   Math.random() * 1; 可以看出,数据库中,字符串+字符串不是拼接,而是计算加法, 试一试,拿着'1' + 'a123'. 扩充,如果非要让两个字符串是拼接,咋办? 2. 表的别名     其实列也可以起别名:   3. d