mysql主从日志的定期清理

mysql主从的binlog定时删除是很重要的,一般是通过expire_logs_days = 10来设置binlog保留的天数(mysql5.0一下版本不支持),但有时这还不够,假如有几天的日志量非常大,硬盘可能会满,所以不但要设置保留的天数,还要监控硬盘的空间使用情况。写了一个脚本,适合各个版本的mysql,保留3天的日志,当存放日志的硬盘使用率超过80%,则保留2天,但至少会保留一天的binlog日志文件。

  1. #!/bin/env python
  2. # -*- coding: utf-8 -*-
  3. ##############################################################
  4. #查看存在binlog的目录位置并找出3天前的最后一个bin-log文件名字
  5. #删除3天以前的binlog文件,删除之后data1目录挂载的硬盘使用率超
  6. #过的80%的话,继续删除2天前的日志文件,至少保留一天的日志。
  7. ##############################################################
  8. import os,sys,time,MySQLdb
  9. def log_w(text):
  10. logfile = "/usr/local/zabbix/bin/delet.log"
  11. now = time.strftime("%Y-%m-%d %H:%M:%S")
  12. tt = now + "\t" + str(text) + "\n"
  13. f = open(logfile,‘a+‘)
  14. f.write(tt)
  15. f.close()
  16. def mysql_conn(port,lastlog,days):
  17. try:
  18. center_ip = ‘127.0.0.1‘
  19. center_user = ‘repl_monitor‘
  20. center_passwd = ‘VQMQLGwTaw3k0UV8‘
  21. sql = "PURGE MASTER LOGS TO ‘%s‘;" % lastlog
  22. conn = MySQLdb.connect(host = center_ip,port = int(port),user = center_user,passwd = center_passwd,connect_timeout=5)
  23. cursor = conn.cursor()
  24. cursor.execute(sql)
  25. alldata = cursor.fetchall()
  26. cursor.close()
  27. conn.close()
  28. text = "Deltet before %s days binlog,deltet %s before !" % (days,lastlog)
  29. log_w(text)
  30. except Exception,e:
  31. log_w(e)
  32. def find_logdir():
  33. conn = "find / -name binlog|grep -v usr"
  34. logdir_list = os.popen(conn).readlines()
  35. if len(logdir_list) != 0:
  36. for logdir in logdir_list:
  37. datadir = logdir.strip().split("/")[1]
  38. if "mysql_log" in logdir.strip():
  39. port = 3306
  40. else:
  41. port = logdir.strip().split("/")[3].split("-")[-1]
  42. days = 3
  43. while 1:
  44. conn = "find %s -mtime %s|sort" % (logdir.strip(),days)
  45. count = os.popen(conn).readlines()
  46. if len(count) != 0:
  47. lastlog = count[-1].strip().split("/")[-1]
  48. mysql_conn(port,lastlog,days)
  49. df = "df -h|grep -e ‘%s$‘|awk ‘{print $5}‘|awk -F ‘%%‘ ‘{print $1}‘" % datadir
  50. disk = os.popen(df).read().strip()
  51. if not disk:
  52. break
  53. else:
  54. if int(disk) < 80:
  55. break
  56. else:
  57. days = days - 1
  58. if days == 1:
  59. break
  60. else:
  61. sys.exit()
  62. if __name__ == "__main__":
  63. find_logdir()

本文出自 “王伟” 博客,请务必保留此出处http://wangwei007.blog.51cto.com/68019/1123088

时间: 2024-11-24 23:26:16

mysql主从日志的定期清理的相关文章

mysql主从binlog日志自动清理及手动删除

问题反馈: mysql主从,在没有设置自动清理binlog日志的情况下,会产生庞大的同步日志文件,占用磁盘空间. 1 手动清理binlog日志,purge master logs 1.1 删除在"指定日期前"或"指定日志前"的所有二进制binlog日志文件   PURGE {MASTER | BINARY} LOGS TO 'log_name'     PURGE {MASTER | BINARY} LOGS BEFORE 'date' 实例: PURGE MAST

MYSQL主从同步如何自动化清理日志?

目前MYSQL 主从同步已经做好了.现在在考虑日志容量的问题,曾经被binlog搞爆过磁盘.主从存在 主的mysql-bin 和 从的中继日志,我想请教一下有没有办法自动化去清理这俩个日志并且不影响到主从数据同步.百度了都是手动形式的,这样可太麻烦了.我的想法是,mysql-bin是有pos的,不知道能不能从pos着手去清理某个点以前的日志,这样的话也不用锁表吧.但我不清楚如何能实现.如果是从整个mysql-bin去清理,可能会需要去用到锁表吧.那用到了锁表是不是不太容易去自动化清理了?或者哪位

mysql主从配置

首先说下为什么需要mysql主从? 主要有三个原因:1,可以辅助备份,提高数据安全性:2,可以实现读写分离,达到负载分担的效果:3,可以实现高可用,在主服务器故障时,迅速切换到从,保证业务不间断运行. 针对上述需求,基本上一主一从,即可满足. 再来看下mysql主从复制的工作过程: 主要有三步: 1)master将改变记录到二进制日志(binary log)中,(这些记录叫做二进制日志事件,binary log events)   2)slave将master的binary log events

高性能Mysql主从架构的复制原理及配置详解

1 复制概述 Mysql内建的复制功能是构建大型,高性能应用程序的基础.将Mysql的数据分布到多个系统上去,这种分布的机制,是通过将Mysql的某一台主机的数据复制到其它主机(slaves)上,并重新执行一遍来实现的.复制过程中一个服务器充当主服务器,而一个或多个其它服务器充当从服务器.主服务器将更新写入二进制日志文件,并维护文件的一个索引以跟踪日志循环.这些日志可以记录发送到从服务器的更新.当一个从服务器连接主服务器时,它通知主服务器从服务器在日志中读取的最后一次成功更新的位置.从服务器接收

2015-09-16 mysql 主从原理、 同步常见异常及恢复方法

1.原理 MySQL复制技术有以下一些特点:            (1)    数据分布 (Data distribution ) (2)    负载平衡(load balancing)             (3)    备份(Backups)           (4)    高可用性和容错行 High availability and failover 整体上来说,复制有3个步骤: (1)    master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,

mysql主从中断

Mysql主从复制中断一例 收到mysql主从中断报警,马上登上服务器查看,发现是中继日志损坏. Show slave status\G,提示中继日志损坏.  Relay log read failure: Could not parse relay log event entry. The possible reasons are: the master's binary log is corrupted (you can check this by running 'mysqlbinlog'

Lvs+keepalived+mysql主从热备

p.MsoNormal,li.MsoNormal,div.MsoNormal { margin: 0cm; margin-bottom: .0001pt; text-align: justify; font-size: 10.5pt; font-family: "Calibri", "sans-serif" } h1 { margin-top: 17.0pt; margin-right: 0cm; margin-bottom: 16.5pt; margin-left

2-18,19 搭建MySQL主从服务器并并通过mysql-proxy实现读写分离

MySQL主从服务器 实现方式: MySQL  REPLICATION Replication可以实现将数据从一台数据库服务器(master)复制到一台或多台数据库服务器(slave) 默认情况下这种情况属于异步复制,无需维持长连接 通过配置,可以复制所有库或者几个库,甚至库中的一些表 它是MySQL内建的,自带 Replication的原理 主服务器master将数据库的改变写入二进制日志文件,从服务器slave同步这些二进制日志,并生成中继日志,从服务器根据中继日志,执行这些改变 DML:S

Mysql主从配置,实现读写分离

大型网站为了软解大量的并发访问,除了在网站实现分布式负载均衡,远远不够.到了数据业务层.数据访问层,如果还是传统的数据结构,或者只是单单靠一台服务器扛,如此多的数据库连接操作,数据库必然会崩溃,数据丢失的话,后果更是 不堪设想.这时候,我们会考虑如何减少数据库的联接,一方面采用优秀的代码框架,进行代码的优化,采用优秀的数据缓存技术如:memcached,如果资金丰厚的话,必然会想到假设服务器群,来分担主数据库的压力.Ok切入今天微博主题,利用MySQL主从配置,实现读写分离,减轻数据库压力.这种