使用awscli创建ec2自动快照(全量备份)

awscli介绍

官方说明:The AWS Command Line Interface is a unified tool to manage your AWS services.

基本语法为:aws [options] <command> <subcommand> [parameters]

选项

--debug (boolean)

打开debug日志.

--endpoint-url (string)

使用指定的url替换默认url.

--no-verify-ssl (boolean)

默认情况,aws cli使用 SSL连接aws服务,每个SSL连接 awscli都会去认证SSL 证书,此选项更改连接是不去认证。

--no-paginate (boolean)

取消自动分页

--output (string)

输出格式.

json

text

table

--query (string)

用于筛选响应数据的 JMESPath 查询.

--profile (string)

使用凭据文件中的特定配置文件.

--region (string)

使用指定region替换配置文件、环境变量中的设置

--version (string)

显示awscli版本号

--color (string)

打开、关闭输出颜色控制.

on

off

auto

--no-sign-request (boolean)

不对请求进行签名认证。如果使用了此参数, 则不会加载凭据.

--ca-bundle (string)

验证 SSL 证书时要使用的 CA 证书捆绑。替换配置/环境设置。

--cli-read-timeout (int)

最大套接字读取时间 (秒)。如果该值设置为 0, 则套接字读取将被阻塞, 而不是超时。

--cli-connect-timeout (int)

最大套接字连接时间 (秒)。如果该值设置为 0, 则套接字读取将被阻塞, 而不是超时。

ec2 ebs快照

使用awscli创建ec2 ebs快照非常方便,使用ec2命令中的create-snapshot即可

语法:

  create-snapshot [--description <value>] --volume-id <value> [--dry-run | --no-dry-run] [--cli-input-json <value>] [--generate-cli-skeleton <value>]

创建快照

如给卷 ID 为 vol-1234567890abcdef0 创建快照并添加描述.

命令:

aws ec2 create-snapshot --volume-id vol-1234567890abcdef0 --description "This is my root volume snapshot."

输出:

{    "Description": "This is my root volume snapshot.",    "Tags": [],    "VolumeId": "vol-1234567890abcdef0",    "State": "pending",    "VolumeSize": 8,    "StartTime": "2014-02-28T21:06:01.000Z",    "OwnerId": "012345678910",    "SnapshotId": "snap-066877671789bd71b" }

全量备份

由于ebs快照为增量快照,其实也不需要删除原来的快照,删除原来的快照也不会释放多余的存储空间,新的快照仍然会使用原快照的存储的数据,实现完整数据备份。

我的全量备份策略如下:

1、每周一次ebs快照,每个ebs仅保留两周(两个)快照;

2、每个快照的打上标签,标签为ec2 Name标签+卷ID+备份时间

3、每个快照描述为 : 备份时间+UTC create snapshot for ec2 标签 卷 ID by awscli用户 on host: 执行命令用户@执行命令服务器名。

4、删除已不存在卷(实例删除,卷删除)的历史自动快照,不影响手动快照

用到命令:

aws iam :https://docs.aws.amazon.com/cli/latest/reference/iam/index.html

aws ec2 describe-instances :https://docs.aws.amazon.com/cli/latest/reference/ec2/describe-instances.html

aws ec2 create-snapshot : https://docs.aws.amazon.com/cli/latest/reference/ec2/create-snapshot.html

aws ec2 create-tags : https://docs.aws.amazon.com/cli/latest/reference/ec2/create-tags.html

aws ec2 delete-snapshot : https://docs.aws.amazon.com/cli/latest/reference/ec2/create-snapshot.html

具体实现:

#!/bin/bash
#create ec2 ebs snapshot per week.
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin
#init awscli
#yum install -y python-pip
#pip install awscli
#aws configure
log_dir=/tmp/ec2-snapshot/
[ -d ${log_dir} ] || mkdir -p ${log_dir}
aws_user=$(aws iam get-user | awk -F\" '/UserName/{print $4}')
#获取实例id
for instance_id in $(aws ec2 describe-instances | awk -F\" '/InstanceId/{print $4}') ; do
    #获取实例标签名
    tag=$(aws ec2 describe-instances --instance-ids ${instance_id} | grep -C1 "\"Key\": \"Name\"" | awk -F\" '/Value/{print $4}')
    #通过实例id获取该实例挂载的卷id
    volumes=$(aws ec2 describe-instances --instance-ids  ${instance_id} | awk -F\" '/VolumeId/{print $4}')
    #通过卷id创建快照
    for volume in $volumes ; do 
        aws ec2 create-snapshot         --volume-id $volume         --description "$(date +%F\ %T) UTC create snapshot for $tag $volume by $aws_user on host: $(whoami)@$(hostname)"         &>> ${log_dir}create-snapshot-history.log
        #获取快照id
        snap_shotId=$(tail -11 ${log_dir}create-snapshot-history.log | awk -F\" '/SnapshotId/{print $4}')
        sleep 10
        #创建快照标签名字,实例标签_时期
        aws ec2 create-tags --resources ${snap_shotId} --tags Key=Name,Value=${tag}_${volume}_$(date +%Y%m%d)
        echo ${snap_shotId} >> ${log_dir}$volume.log
        #判断每个卷的快照数,大于3个,删除超过3个的最久的快照
        num_snap=$(wc -l ${log_dir}$volume.log | awk '{print $1}')
        if [ ${num_snap} -gt 3 ] ;then
            old_snapshotid=$(head -$[${num_snap}-3] ${log_dir}$volume.log)
            for delid in ${old_snapshotid} ;do
                aws ec2 delete-snapshot --snapshot-id ${delid} 2>> ${log_dir}del-snapshot-error.log
                sed -i '/'"$delid"'/d' ${log_dir}$volume.log
            done
        fi
    done
done
#删除已不存在卷的历史自动快照,不影响手动快照
#获取现有卷列表
vol_n=$(aws ec2 describe-instances | awk -F\" '/VolumeId/{print $4}')
cd ${log_dir}
for vol_log in vol-*.log ; do
    #历史卷id
    vol_id=${vol_log%.log}
    #判断历史卷id是否在现有卷列表中,不存在则删除这个卷的所有快照
    if [ "${vol_n}" == "${vol_n/${vol_id}/#}" ] ; then
        while read sanp_his ; do
            aws ec2 delete-snapshot --snapshot-id ${sanp_his} 2>> ${log_dir}del-snapshot-error.log
        done < ${vol_log}
        rm -f ${vol_log}
    fi
done
时间: 2024-11-11 04:53:28

使用awscli创建ec2自动快照(全量备份)的相关文章

SVN自动实现全量备份(Windows服务器)

一.SVN全量备份脚本: 1)新建文件backup.bat,打开编辑,输入如下内容: echo off rem Subversion的安装目录 set SVN_HOME="C:\Program Files (x86)\VisualSVN Server" rem 所有版本库的父目录 set SVN_ROOT=D:\Repositories rem 备份的目录 set BACKUP_SVN_ROOT=D:\SvnBak       (备注:红色标识的地方根据实际情况需要修改) rem 创建

linux自动代码增量备份 结合 全量备份

需求说明 系统环境:linux(centos7)备份内容:增量备份 结合 全量备份 公司中的生产服务器数据非常重要,所以我们需要通过备份服务器将生产服务器的数据进行备份. rsync的增量备份,不单单会同步新增的内容,就连删除的内容也会同步.假如管理代码人员误操作将代码误删除,那么备份服务器检测到备份原的数据产生变化后,也会与其同步,此时生产服务器与备份服务器的代码都会丢失. 增量备份要求的频率较高,但在生产与备份服务器之间的网络资源消耗较少,所以我们可以使用rsync来做增量备份,然后结合在备

Centos 6.9 安装xtrabackup-2.4.8 通用包,yum安装,全量备份,增量备份

xtrabackup-2.4.8的安装及使用 ---Yum安装 官网地址:https://www.percona.com/doc/percona-xtrabackup/LATEST/installation/yum_repo.html [[email protected] ~]# yum install http://www.percona.com/downloads/percona-release/redhat/0.1-4/percona-release-0.1-4.noarch.rpm [[

Xtrabackup 备份大数据库(全量备份和增量备份)

Xtrabackup Xtrabackup是由percona开源的免费数据库热备份软件,它能对InnoDB数据库和XtraDB存储引擎的数据库非阻塞地备份(对于MyISAM的备份同样需要加表锁): mysqldump备份方式是采用的逻辑备份,其最大的缺陷是备份和恢复速度较慢,如果数据库大于50G,mysqldump备份就不太适合. Xtrabackup优点 1)备份速度快,物理备份可靠 2)备份过程不会打断正在执行的事务(无需锁表) 3)能够基于压缩等功能节约磁盘空间和流量 4)自动备份校验 5

xtrabackup实现全量备份和增量备份

mysql增量和完全备份innobackupex2.1.9版本1 yum安装: 官网地址:https://www.percona.com/doc/percona-xtrabackup/LATEST/installation/yum_repo.htmlyum install http://www.percona.com/downloads/percona-release/redhat/0.1-4/percona-release-0.1-4.noarch.rpmyum list | grep per

Windows下Oracle定时备份(全量备份)

关于Windows下oracle全量备份的文章,很多网站都有,写下本文不过是为了以后方便查找,不用再到处找. 以下些许内容有所参考到其他人所写内容,这里无意冒犯,本文引用内容部分会附上参考地址,还望原作者见谅. 备份脚本 新建txt文档,把脚本复制进去后改文件格式为bat文件,双击运行即可测试该脚本是否有误. 这里要说明一下,开始把脚本拿过来执行时,一直未能成功备份数据库 用bat的pause暂停调试发现了一些问题,有时不注意可能会在定义的变量如BACKUPDATE.USER等后面带了空格 这个

全量备份与增量备份实践

1.1 全备备份与恢复全备实践 ####################################################################################### 1.安装Xtrabackup备份命令 wget -O /etc/yum.repos.d/epel.repo  http://mirrors.aliyun.com/repo/epel-6.repo yum -y install perl perl-devel libaio libaio-dev

Percona Xtrabackup实现mysql全量备份和增量备份

###########################################################################        安装mysql或者mariaDB本地也要装mysql或者mariaDB相关的包          ##########################################################################略 ######################################### 

mysql全量备份及增量备份流程

由于线上mysql数据量很大,天天进行全备份数据既浪费时间又占用资源,所以打算采用全量备份和增量备份结合的方式进行备份采用每周日全量备份.周一到周六增量备份的方式背景是从一台mysql上进行备份,然后还原到另一台mysql上实际上是从线上数据库备份,再还原到线下数据库上先从线下找两台机器测试用191机器模拟线上mysql在122机器上新装了一个mysql用来还原 全备份 先说一下全备份,在191上 #!/bin/bash cd /opt/bak/local/mysql/test date_str