025:sysbench压测-innodb_flush_log_at_trx_commit,sync_binlog参数对性能的影响

sysbench压测-innodb_flush_log_at_trx_commit,sync_binlog参数对性能的影响

[TOC]

一、OLTP测试前准备

基本信息:

  • 主机信息
CPU 内存 硬盘 系统版本 MySQL版本 sysbench版本
Intel(R) Core(TM) i7-7500U CPU @ 2.70GHz *2 2G 虚拟机硬盘 CentOS release 6.9 (Final) 5.7.18 1.1.0-76
  • sysbench 目录(/software/sysbench)

二、MySQL 数据落盘的过程

  • 确认数据从InnoDB的内存到真正写到存储设备的介质上到底有哪些缓冲在起作用

从上图中,我们可以看到,数据InnoDB到磁盘需要经过

1.InnoDB buffer pool,Redo log buffer。这个是InnoDB应用系统本身的缓冲。
2.page cache /Buffer cache(可通过o_direct绕过)。这个是vfs层的缓冲。
3.Inode cache/directory buffer。这个也是vfs层的缓冲。需要通过O_SYNC或者fsync()来刷新。
4.Write-Back buffer。(可设置存储控制器参数绕过)
5.Disk on-borad buffer。(可通过设置磁盘控制器参数绕过)

这里我们使用术语“缓冲”(一般为buffer)来表示对数据写的暂存,使用术语“缓存”(一般为cache)来表示对数据读的暂存。顾名思义,由于底层存储设备和内存之间速率的差异,缓冲是用来暂“缓”对底层存储设备IO的“冲”击。缓存主要是在内存中暂“存”从磁盘读到的数据,以便接下来对这些数据的访问不用再次访问慢速的底层存储设备。

三、参数说明

  • innodb_flush_log_at_trx_commit

    • innodb_flush_log_at_trx_commit目前支持3种不同的参数值0,1,2
    • innodb_flush_log_at_trx_commit设置为0,log buffer将每秒一次地写入log file中,并且log file的flush(刷到磁盘)操作同时进行.在事务提交时不执行从日志缓冲区到日志文件的写入.该模式下,由于进程调度策略问题,这个“每秒执行一次flush(刷到磁盘)操作”并不是保证100%的“每秒”.
    • innodb_flush_log_at_trx_commit设置为1,每次事务提交时MySQL都会把log buffer的数据写入log file,并且flush(刷到磁盘)中去.
    • innodb_flush_log_at_trx_commit设置为2,每次事务提交时MySQL都会把log buffer的数据写入log file.
    • innoDB日志刷新频率由控制 innodb_flush_log_at_timeout,它允许用户设置记录flush频率为N秒(其中 N是1 ... 2700,为1的默认值)。但是,任何mysqld进程崩溃都可以丢失多达N几秒的事务。
  • 安全问题
    • 当innodb_flush_log_at_trx_commit和sync_binlog 都为 1 时是最安全的,在mysqld服务崩溃或者服务器主机crash的情况下,binary log 只有可能丢失最多一个语句或者一个事务。但是鱼与熊掌不可兼得,双11 会导致频繁的io操作,因此该模式也是最慢的一种方式。
    • 当innodb_flush_log_at_trx_commit设置为0,mysqld进程的崩溃会导致上一秒钟所有事务数据的丢失。
    • 当innodb_flush_log_at_trx_commit设置为2,只有在操作系统崩溃或者系统掉电的情况下,上一秒钟所有事务数据才可能丢失。

  • sync_binlog

    • sync_binlog 的默认值是0,像操作系统刷其他文件的机制一样,MySQL不会同步到磁盘中去而是依赖操作系统来刷新binary log。
    • 当sync_binlog =N (N>0) ,MySQL 在每写 N次 二进制日志binary log时,会使用fdatasync()函数将它的写二进制日志binary log同步到磁盘中去。
    • 注意:
      • 如果启用了autocommit,那么每一个语句statement就会有一次写操作;否则每个事务对应一个写操作。
  • innodb_flush_method
    • 目前支持4种不同的参数值:

      fdatasync 、O_DSYNC 、O_DIRECT 、O_DIRECT_NO_FSYNC

    • 日志刷新对应表

    • innodb_flush_method数据文件和日志刷新对应表

四、Test性能

  • 场景说明

  • 所有场景图



    • note:sync_binlog=1时,QPS和TPS性能明显比其他的弱5%-10%
  • innodb_flush_log_at_trx_commit={0,1,2} ;sync_binlog=0 场景图


    • note: innodb_flush_log_at_trx_commit=1时;性能最差
  • innodb_flush_log_at_trx_commit={0,1,2} ;sync_binlog=1 场景图


    • note:innodb_flush_log_at_trx_commit=1;sync_binlog=1 性能最差
  • innodb_flush_log_at_trx_commit=2 ;sync_binlog={0,1,2} 场景图


    • note:innodb_flush_log_at_trx_commit=2;sync_binlog={0,1,100} 这个需要根据业务来进行压测。

      五、总结

  • 对数据安全性要求非常高,而且磁盘IO写能力足够支持业务,比如订单,交易,充值,支付消费系统。配置双1模式
  • 当对数据安全性要求低和并发要求也不高时,可以配置innodb_flush_log_at_trx_commit=2,sync_binlog=0,让系统开决定刷新频率
  • 当磁盘IO无法满足业务需求时,推荐的做法是 innodb_flush_log_at_trx_commit=2 ,sync_binlog=N (N为500 或1000) 且使用带蓄电池后备电源的缓存cache,防止系统断电异常。

原文地址:https://www.cnblogs.com/gczheng/p/8405139.html

时间: 2024-10-27 16:31:26

025:sysbench压测-innodb_flush_log_at_trx_commit,sync_binlog参数对性能的影响的相关文章

sysbench压测配置文件

Sysbench 基准压测 my.cnf [TOC] ############################################ line: V1.1 mail: [email protected] date: 2017-11-10 ########################################### 一.Sysench测试前准备 1.1.压测环境 配置 信息 主机 Dell PowerEdge R730xd CPU 24 * Intel(R) Xeon(R) C

手把手教会使用Jmeter进行压测,涉及参数提取、参数关联、CSV参数化

手把手简单介绍一下Jmeter的使用方法,以某平台APP登录接口为例: 1)单接口压测. 2)依赖其它接口参数.以获取用户信息为例. CSV参数化. 参数提取. Json提取器与正式表达式提取器. 方便初学者使用,Jmeter可以友好的选择简体中文: 一.单接口压测 步骤: 添加 ->线程(用户)->线程组 在线程组上 添加->取样器->HTTP请求 在HTTP请求上 添加->配置元件->察看结果树 Jmeter结果页: 操作演示: 任何接口信息都预先使用抓包工具查看接

sysbench 压测 详解

下载sysbench(mysql官网就有)解压,进入解压以后的目录./autogen.sh./configure --with-mysql-includes=/usr/local/mysql/include --with-mysql-libs=/usr/local/mysql/libmake && make installexport LD_LIBRARY_PATH=/usr/local/mysql/lib 开始进行测试通用配置接下来我们来分别看一下各个模式的相关参数.测试方法和结果分析.

sysbench对MySQL的压测,使用sysbench压测磁盘io

QPS - query per secondTPS - transaction per second 不是特别关注,每个业务场景中事务标准是不一样的 Ⅰ.sysbench测试框架 Ⅱ.常用测试脚本 [[email protected]_42_63_centos lua]# pwd /usr/local/src/sysbench-master/src/lua [[email protected]_42_63_centos lua]# ll *.lua -rwxr-xr-x 1 root root

sysbench压测

http://www.ywnds.com/?p=10111 https://keithlan.github.io/2016/12/16/sysbench_mysql/ mysqladmin -uroot -p  ext -i1 |awk '/Queries/{q=$4-qp;qp=$4}/Threads_connected/{c=$4}/Threads_running/{printf("%d %d %d\n",q,c,$4)}' 测试环境说明: Centos 6.6 MySQL5.7.

sysbench压测工具 压测 mysql

Sysbench的测试主要包括以下几个方面: 1.磁盘io性能 2.cpu性能 3.内存分配及传输速度 4.POSIX线程性能 5.调度程序性能 6.数据库性能(OLTP基准测试).sysbench 安装注:我这里选择源码包安装sysbench0.5版本下载软件http://repo.percona.com/apt/pool/main/s/sysbench/wget http://repo.percona.com/apt/pool/main/s/sysbench/sysbench_0.5.ori

记5.28大促压测的性能优化—线程池相关问题

目录: 1.环境介绍 2.症状 3.诊断 4.结论 5.解决 6.对比java实现 废话就不多说了,本文分享下博主在5.28大促压测期间解决的一个性能问题,觉得这个还是比较有意思的,值得总结拿出来分享下. 博主所服务的部门是作为公共业务平台,公共业务平台支持上层所有业务系统(2C.UGC.直播等).平台中核心之一的就是订单域相关服务,下单服务.查单服务.支付回调服务,当然结算页暂时还是我们负责,结算页负责承上启下进行下单.结算.跳支付中心.每次业务方进行大促期间平台都要进行一次常规压测,做到心里

记5.28大促压测的性能优化—线程池相关问题

目录: 1.环境介绍 2.症状 3.诊断 4.结论 5.解决 6.对比java实现 废话就不多说了,本文分享下博主在5.28大促压测期间解决的一个性能问题,觉得这个还是比较有意思的,值得总结拿出来分享下. 博主所服务的部门是作为公共业务平台,公共业务平台支持上层所有业务系统(2C.UGC.直播等).平台中核心之一的就是订单域相关服务,下单服务.查单服务.支付回调服务,当然结算页暂时还是我们负责,结算页负责承上启下进行下单.结算.跳支付中心.每次业务方进行大促期间平台都要进行一次常规压测,做到心里

后端服务性能压测实践

转自:https://mp.weixin.qq.com/s/XW9geHZ9odHdI7srDiKBIg 目录 背景 环境检测 压力机及压力工具检测 Linux openfiles limit 设置 排查周边依赖 空接口压测检测 聚合报告中 throughput 计算 压测及性能排查方法 关注各纬度 log Linux 常规命令 性能排查两种方式(从上往下.从下往上) 总结 背景 最近大半年内有过两次负责性能压测的一些工作.一件事情做了一次可能还无法总结出一些东西,两次过后还是能发现一些共性问题