Java面试准备十六:数据库——MySQL性能优化

这里只是为了记录,由于自身水平实在不怎么样,难免错误百出,有错的地方还望大家多多指出,谢谢。

来自MySQL性能优化的最佳20+经验

  1. 为查询缓存优化你的查询
  2. EXPLAIN你的SELECT查询
  3. 当只要一行数据是使用LIMIT 1
  4. 为搜索字段建索引
  5. 在Join表的时候使用相当类型的列,并将其索引
  6. 千万不要ORDER BY RAND()
  7. 避免SELECT *
  8. 永远为每张表设置一个ID
  9. 使用ENUM而不是VARCHAR
  10. 从PROCEDURE ANALYSE() 取得建议
  11. 尽可能的使用NOT NULL
  12. PreparedStatement
  13. 无缓冲的查询
  14. 把IP地址存成 UNSIGNED INT
  15. 固定长度的表会更快
  16. 垂直分割
  17. 拆分大的 DELETE 或 INSERT 语句
  18. 越小的列会越快
  19. 选择正确的存储引擎
  20. 使用一个对象关系映射器(Object Relational Mapper)
  21. 小心“永久链接”

1. 为查询缓存优化你的查询

大多数的MySQL服务器都开启了查询缓存。这是提高性最有效的方法之一,而且这是被MySQL的数据库引擎处理的。当有很多相同的查询被执行了多次的时候,这些查询结果会被放到一个缓存中,这样,后续的相同的查询就不用操作表而直接访问缓存结果了。

这里最主要的问题是,对于程序员来说,这个事情是很容易被忽略的。因为,我们某些查询语句会让MySQL不使用缓存。请看下面的示例:

// 查询缓存不开启
$r = mysql_query("SELECT username FROM user WHERE signup_date >= CURDATE()");

// 开启查询缓存
$today = date("Y-m-d");
$r = mysql_query("SELECT username FROM user WHERE signup_date >= ‘$today‘");

上面两条SQL语句的差别就是 CURDATE() ,MySQL的查询缓存对这个函数不起作用。所以,像 NOW() 和 RAND() 或是其它的诸如此类的SQL函数都不会开启查询缓存,因为这些函数的返回是会不定的易变的。所以,你所需要的就是用一个变量来代替MySQL的函数,从而开启缓存。

2. EXPLAIN 你的 SELECT 查询

使用 EXPLAIN 关键字可以让你知道MySQL是如何处理你的SQL语句的。这可以帮你分析你的查询语句或是表结构的性能瓶颈。

EXPLAIN 的查询结果还会告诉你你的索引主键被如何利用的,你的数据表是如何被搜索和排序的……等等,等等。

3. 当只要一行数据时使用 LIMIT 1

当你查询表的有些时候,你已经知道结果只会有一条结果,但因为你可能需要去fetch游标,或是你也许会去检查返回的记录数。

在这种情况下,加上 LIMIT 1 可以增加性能。这样一样,MySQL数据库引擎会在找到一条数据后停止搜索,而不是继续往后查少下一条符合记录的数据。

下面的示例,只是为了找一下是否有“中国”的用户,很明显,后面的会比前面的更有效率。(请注意,第一条中是Select *,第二条是Select 1)

// 没有效率的:
$r = mysql_query("SELECT * FROM user WHERE country = ‘China‘");
if (mysql_num_rows($r) > 0) {
    // ...
}

// 有效率的:
$r = mysql_query("SELECT 1 FROM user WHERE country = ‘China‘ LIMIT 1");
if (mysql_num_rows($r) > 0) {
    // ...
}

4. 为搜索字段建索引

参考Java面试准备十五:数据库——索引

5. 在Join表的时候使用相当类型的例,并将其索引

如果你的应用程序有很多 JOIN 查询,你应该确认两个表中Join的字段是被建过索引的。这样,MySQL内部会启动为你优化Join的SQL语句的机制。

而且,这些被用来Join的字段,应该是相同的类型的。例如:如果你要把 DECIMAL 字段和一个 INT 字段Join在一起,MySQL就无法使用它们的索引。对于那些STRING类型,还需要有相同的字符集才行。(两个表的字符集有可能不一样)

6. 千万不要 ORDER BY RAND()

如果你真的想把返回的数据行打乱了,你有N种方法可以达到这个目的。这样使用只会让你的数据库的性能呈指数级的下降。这里的问题是:MySQL会不得不去执行RAND()函数(很耗CPU时间),而且这是为了每一行记录去记行,然后再对其进行排序。就算你用了limit 1也无济于事(因为要排序)

下面的示例是随机挑一条记录

-- 千万不要这样做
SELECT last_name FROM actor ORDER BY RAND() LIMIT 1;-- 时间: 0.252s

-- 这样会更好
SELECT COUNT(*) FROM actor;
-- 然后在程序代码里,返回0~count(*)-1的一个随机数rand,再通过以下sql去查表
SELECT last_name FROM actor limit rand, 1;

7. 避免 SELECT *

  • 从数据库里面读出的数据越多,查询速度越慢
  • 如果数据库拂去其和WEB服务器是两台独立的机器时,还会增加网络传输的负载

    所以,你应该养成需要什么数据取什么数据的习惯。

8. 永远为每张表设置一个主键

我们应该为数据库里的每张表都设置一个ID作为其主键,而且最好是一个INT型的(推荐使用UNSIGN),并设置上自动增加的AUTO_INCREMENT标志。

就算是你users表有一个主键叫“email”的字段,你也别让他成为主键。使用VARCHAR类型来当主键会使得性能下降。另外,在你的程序中,你应该使用表的主键来构造你的数据机构。

而且,在MySQL数据引擎下,还有一些操作需要使用主键,在这些情况下,主键的性能和设置变得非常重要,比如,集群,分区….(不懂这个。。)

在这里,只有一个情况是例外,那就是“关联表”的“外键”,也就是说,这个表的主键,通过若干个别的表的主键构成。我们把这个情况叫做“外键”。比如,有个“学生表”有学生的ID,有个“课程表”有课程ID,那么“成绩表”就是“关联表”,其关联了学生表和课程表,在成绩表中,学生ID和课程ID叫“外键”其共同组成主键。

9. 使用 ENUM 而不是 VARCHAR

ENUM类型是非常快和紧凑的。在实际上,其保存的是TINYINT,但其外表上显示为字符串。这样一来 ,用这个字段来做一些选项列表变得相当的完美。

如果你有一个字段,比如“性别”,“国家”,“民族”,“状态”或“部门”,你知道这些字段的取值是有限而且固定的,那么,你应该使用 ENUM 而不是 VARCHAR。

MySQL也有一个“建议”(见第十条)告诉你怎么去重新组织你的表结构。当你有一个 VARCHAR 字段时,这个建议会告诉你把其改成 ENUM 类型。使用 PROCEDURE ANALYSE() 你可以得到相关的建议。

10. 从 PROCEDURE ANALYSE() 取得建议

PROCEDURE ANALYSE() 会让 MySQL 帮你去分析你的字段和其实际的数据,并会给你一些有用的建议。只有表中有实际的数据,这些建议才会变得有用,因为要做一些大的决定是需要有数据作为基础的。

例如,如果你创建了一个 INT 字段作为你的主键,然而并没有太多的数据,那么,PROCEDURE ANALYSE()会建议你把这个字段的类型改成 MEDIUMINT 。或是你使用了一个 VARCHAR 字段,因为数据不多,你可能会得到一个让你把它改成 ENUM 的建议。这些建议,都是可能因为数据不够多,所以决策做得就不够准。

一定要注意,这些只是建议,只有当你的表里的数据越来越多时,这些建议才会变得准确。一定要记住,你才是最终做决定的人。

11. 尽可能的使用 NOT NULL

除非你有一个很特别的原因去使用 NULL 值,你应该总是让你的字段保持 NOT NULL。这看起来好像有点争议,请往下看。

首先,问问你自己“Empty”和“NULL”有多大的区别(如果是INT,那就是0和NULL)?如果你觉得它们之间没有什么区别,那么你就不要使用NULL。(你知道吗?在 Oracle 里,NULL 和 Empty 的字符串是一样的!)

不要以为 NULL 不需要空间,其需要额外的空间,并且,在你进行比较的时候,你的程序会更复杂。 当然,这里并不是说你就不能使用NULL了,现实情况是很复杂的,依然会有些情况下,你需要使用NULL值。

12. PreparedStatement

PreparedStatement很像存储过程,是一种运行在后台的SQL语句集合,我们可以使用PreparedStatement获得很多好处,无论是性能问题还是安全问题。

PreparedStatement可以检查一些你绑定好的变量,这样可以保护你的程序不会受到“SQL注入式”攻击。当然,你也可以手动去检查你的这些变量,然而,手动的检查容易出问题,而且很经常会被程序员忘了。当我们使用一些framework或是ORM的时候,这样的问题会好一些。

在性能方面,当一个相同的查询被使用很多次的时候,这会为你带来可观的性能优势,你可以给这些PreparedStatement定义一些参数,而MySQL只会解析一次。

13. 无缓冲的查询

正常情况下,当你在你的脚本中执行一个SQL语句的时候,你的程序会停在那里直到这个SQL语句返回,然后你的程序再往下继续执行。你可以使用无缓冲查询来改变这个行为。尤其是那些会产生大量结果的查询语句,并且,你不需要等到所有第的结果都返回,只需要第一行的数据返回的时候,你就可以马上开始工作于查询结果了。

14. 把IP地址存成 UNSIGNED INT

很多程序员都会创建一个varchar(15)字段来存放字符串形式的IP而不是整形的IP。如果你用整形来存放,只需要4个字节,并且你可以有定长的字段。而且,这会为你带来查询上的优势,尤其是当你需要使用这样的WHERE条件:between ip1 and ip2

我们必须使用UNSIGNED INT,因为IP地址会使用整个32位的无符号整形。

而你的查询,你可以使用INET_ATON()来把一个字符串IP转成一个整形,并使用INET_NTOA()把一个整形转成一个字符串IP。如下:

-- 字符串IP转成整形
select INET_ATON(‘127.0.0.1‘) from dual;

-- 整形转成字符串ip
select INET_NTOA(2130706433) from dual;

15. 固定长度的表会更快

如果表中的所有字段都是“固定长度的”,整个表会被认为是“static”或“”“fixed-length”。例如,表中没有如下类型的字段:VARCHAR, TEXT, BLOB。只要你包括了其中一个这些字段,那么这个表就不是“固定长度静态表”了,这样,MySQL引擎会用另外一种方法来处理。

固定长度的表会提高性能,因为MySQL搜寻的会更快一些,因为这些固定的长度是很容易计算下一个数据的偏移量的,所以读取的自然也会很快。而如果字段不是定长的,那么,每一次要找下一条的话,需要程序找到主键。

并且,固定长度的表更容易被缓存和重建。不过,唯一的副作用是,固定长度的字段会浪费一些空间,因为定长的字段无论你要弄个不用,它都是要分配那么多的空间。

使用“垂直分割”技术(见下一条),你可以分割你的表成为两个一个是定长的,一个则不是定长的。

16. 垂直分割

“垂直分割”是一种把数据库中的表按列变成几张表的方法,这样可以降低表的复杂度和字段的数目,从而达到优化的目的。

示例一:

在User表中有一个字段是家庭地址,这个字段是可选字段,相比起,而且你在数据库操作的时候除了个人信息外,你并不需要经常读取或是改写这个字段。那么,为什么不把这个字段放到另一张表呢?这样会让你的表有更好的性能。

示例二:

你有一个叫“last_login”字段,它会在每次用户登录的时候被更新。但是,每次更新时会导致该表的查询缓存被清空。所以,你可以把这个字段放到另外一个表中,这样就不会影响ID,用户名,用户角色的不停的读取了,因为查询缓存会帮你增加很多性能。

另外,你需要注意的是,这些被分出去的字段所形成的表,你不会经常性的去join他们,不然的话,这样的性能会比不分割时还要差,而且,是指数级的下降。

17. 拆分大的 DELETE 或 INSERT 语句

如果你需要在一个在线的网站上去执行一个大的DELETE或INSERT查询,你需要非常小心,要避免你的操作会让你的整个网站停止响应。因为这两个操作是会锁表的,表一锁住了,别的操作都进不来了。

Apache会有很多的子进程或线程。所以,其工作起来相当有效率,而我们的服务器也不希望有太多的子线程,线程和数据库链接,这时极大的占服务器资源的事情,尤其是内存。

如果你把你的表锁上一段时间,比如30s,那么对于一个有很高访问量的站点来说,这30s所积累的访问进程/线程,数据库链接,打开的文件数,可能不仅仅会让你的web服务器crash,还可能会让你的整台服务器马上挂了。

所以,如果你有一个大的处理,你要把他拆分,使用LIMIT条件是一个好的方法。下面是一个示例:

while(true){
  //每次只做1000条
  mysql_query("DELETE FROM logs WHERE log_date <= ‘2009-11-01‘ LIMIT 1000");
  if(mysql_affected_rows()==0){
     //没得可删了,退出
      break;
  }
  usleep(5000);
}

18. 越小的列会越快

对于大多数的数据引擎来说,硬盘操作可能是最大的瓶颈。所以,把你的数据变得紧凑会对这种情况非常有帮助,因为这减少了对硬盘的访问。

可以参考MySQL的文档Storage Requirements查看所有的数据类型。

如果一个表只会有几列罢了(比如说字典表,配置表),那么,我们就没有理由使用INT来做主键,使用MEDIUMINT ,SMALLINT或是更小的TINYINT会更经济一些。如果你不需要记录时间,使用DATE要比DATETIME好得多。

当然,你也需要留足够的扩展空间,不然,你日后要干这个事,你会死的很难看,参考Slashdot的例子,一个简单的ALTER TABLE 语句花了3个多小时,因为里面

有一千六百万条数据。

19. 选择正确的存储引擎

在MySQL中有两个存储引擎MyISAM和Innodb,每个引擎都会有利弊。MyISAM

适合于一些需要大量查询的应用,但是对于有大量写操作并不是很好。甚至你只是需要update一个字段,整个表都会被锁起来,而别的进程,就算是读进程都无法操作直到读操作完成。另外,MyISAM对于SELECT COUNT(*)这种操作是超快务必的。

Innodb的趋势会是一个非常复杂的存储引擎,对于一些小的应用,他会比MyiSAM还慢。他是支持“行锁”的,所以在写操作比较多 的时候,会更优秀。并且,他还支持更多的高级应用,比如:事务。

20. 使用一个对象关系映射器(Object Relational Mapper)

使用ORM,你能够获得可靠的性能增涨。一个ORM可以做到所有事情,也能被手动的编写出来。但是,这需要一个高级专家。

ORM的最重要的是“Lazy loading”,也就是说,只有在需要的去取值的时候才会去真正的去做。但你也需要小心这种机制的副作用,因为这很可能会因为要去创建很多很多小的查询反而会降低性能。(不懂最后这句。。)

ORM还可以把你的SQL语句打包成一个事务,这会比单独执行他们快得多得多。(啥意思?)

21. 小心“永久链接”

“永久链接”的目的是用来减少重新创建MySQL链接的次数。当一个链接呗创建了,它会永远处在链接的状态,就算是数据库操作已经结束了,而且,自动我们的Apache开始重用它的子进程后——也就是说,下一次的HTTP请求会重用Apache的子进程,并重用相同的MySQL链接。

在理论上来说,这听起来非常的不错。但是从个人经验(也是大多数人的)上来说,这个功能制造出来的麻烦事更多。因为,你只有有限的链接数,内存问题,文件句柄数,等等。

而且,Apache 运行在极端并行的环境中,会创建很多很多的了进程。这就是为什么这种“永久链接”的机制工作地不好的原因。在你决定要使用“永久链接”之前,你需要好好地考虑一下你的整个系统的架构。

时间: 2024-10-22 08:43:22

Java面试准备十六:数据库——MySQL性能优化的相关文章

MYSQL进阶学习笔记十六:MySQL 监控!(视频序号:进阶_35)

知识点十六:MySQL监控(35) 一.为什么使用MySQL监控 随着软件后期的不断升级,myssql的服务器数量越来越多,软硬件故障的发生概率也越来越高.这个时候就需要一套监控系统,当主机发生异常时,此时通过监控系统发现和处理. 这个监控实际上是在我们的开发完成之后,这个时候软件就开始在运行,这个运行我们就需要去关注到mysql服务器是否正常,那么我们要观察它就需要给它提供一些监控,这监控就是当它发生故障之后, 那么我们这个监控就会告诉我们到底什么地方发生了一些异常或者一些错误,这个时候我们就

Java Web总结十六之一自定义标签

一.自定义标签简介 1.为什么要使用自定义标签? 自定义标签主要用于移除Jsp页面中的<%java%>代码. 2.开发自定义标签的步骤: 1)开发自定义标签处理类,该类需要实现SimpleTag接口/SimpleTagSupport类,重写doTag()方法. 2)编写标签库描述符(tld)文件,在tld文件中对自定义标签进行描述,并放置在WEB-INF/目录下. 3)完成以上操作,即可在JSP页面中导入和使用自定义标签. 二.自定义标签描述 1.实现SimpleTag接口的标签通常称为简单标

十六、mysql 分区之 简单sql优化1

1.使用 show session status like '%Com_%'; 可以查看当前连接的各个sql的执行频率 show global status like '%Com_%'; 可以查看从上次mysql服务器启动到目前为止sql的执行频率 2.explain select * from tmp; mysql> explain select * from zi_emp where tid = 1000\G *************************** 1. row ******

十六、mysql 分区之 简单sql优化2

1.索引的分类 B-Tree 基本支持 HASH 只有memory支持 R-Tree myisam支持 Full-text myisam支持(全文索引) 2.Memory引擎下只有“=”条件才会使用索引 =============================== 导入数据的优化 ======================== 3.如何提高myisam的导入效率 alter table emp disable keys;关闭索引 load data infile 'aa.sql' into

201671010140. 2016-2017-2 《Java程序设计》java学习第十六周

java学习第十六周         本周对十三章:"部署java应用程序"进行了课堂学习,在老师思路牵引下,对这一章知识进行学习,对实例程序运行和注释,对比课前对书本上知识的浅显预习,半知半解,课堂学习后,对这部分知识的理解也更加深入,尤其是在JAR文件这部分,感觉掌握的不错,对Java程序为何要打包成JAR文件,如何去做都有了进一步学习,认知,之前并不理解如何使用jar程序制作JAR文件,在课堂上同学的演示下,也理解了这部分知识.在对JAR文件中的包的密封,属性映射等方面的知识掌握

“全栈2019”Java第七十六章:静态、非静态内部类访问权限

难度 初级 学习时间 10分钟 适合人群 零基础 开发语言 Java 开发环境 JDK v11 IntelliJ IDEA v2018.3 文章原文链接 "全栈2019"Java第七十六章:静态.非静态内部类访问权限 下一章 "全栈2019"Java第七十七章:抽象内部类与抽象静态内部类详解 学习小组 加入同步学习小组,共同交流与进步. 方式一:关注头条号Gorhaf,私信"Java学习小组". 方式二:关注公众号Gorhaf,回复"J

“全栈2019”Java多线程第二十六章:同步方法生产者与消费者线程

难度 初级 学习时间 10分钟 适合人群 零基础 开发语言 Java 开发环境 JDK v11 IntelliJ IDEA v2018.3 文章原文链接 "全栈2019"Java多线程第二十六章:同步方法生产者与消费者线程 下一章 "全栈2019"Java多线程第二十七章:Lock获取lock/释放unlock锁 学习小组 加入同步学习小组,共同交流与进步. 方式一:关注头条号Gorhaf,私信"Java学习小组". 方式二:关注公众号Gorha

Mysql5.7—mysql性能优化-索引、语句、配置(运维必备)

小生博客:http://xsboke.blog.51cto.com 小生 Q Q:1770058260 -------谢谢您的参考,如有疑问,欢迎交流 一. 数据库的类型 1) 第一代数据库: 基于层次模型与网状模型的数据库 层次型数据库比较经典的是IBM公司的IMS(InformationManagement System)数据库,层次型数据库提供了良好的完整性支持,模型简单,对具有一对多层关系的部们描述非常自然.直观,容易理解,比较适用于那些实体间联系是固定的且预先定义好的环境,其性能优于关

MySQL 性能优化,优化设计及设计原则解读

MySQL性能优化的目的 如何合理的设计数据库? 什么样的数据库设计才能给后期DBA优化提供基石? 数据库设计与程序设计的差异? 数据库设计早期优化 关系明确(理清表之间的关系,可以通过冗余的方式提高效率) 节省空间(根据业务经验,设置字段长短) 提高效率 数据库表开发流程 原型=>逐步完善(表的设计也是如此) 数据库种类 层级数据库(注册表) 如:Windows操作系统的核心就是一个注册表,由于配置项比较多,采用层级关系的数据存储 关系型数据库 如:MySQL 时序数据库 图数据库 如:最短路