实战利用LVM卷镜像技术实现不停业务的数据在线迁移,核心存储升级混闪V7000F 转

实战利用LVM卷镜像技术实现不停业务的数据在线迁移,核心存储升级混闪V7000F

一、介绍

所有数据从旧设备到新设备实现了高速在线迁移,业务系统进行了无缝衔接。整个迁移、切换过程关键设备零重启,对用户正常操作ERP画面未造成任何影响。

二、目的和意义

存储设备运行更加稳定

新的IBM V7000存储(2076-624)属于V7000系列的第三代产品,2016年9月投入市场。存储系统的设计从控制器、数据通道、I/O接口,到磁盘环路都是采用冗余结构,理论上不存在系统本身的单点故障问题。该产品依靠其卓越的稳定性、可靠性及独特的人性化配置界面在市场占有率上一直位居前列,在同行中具有良好的口碑。

设备性能显著提高

ERP核心存储中存放的数据多为ERP应用和DB2数据库数据,数据处理类型多为OLTP联机事务处理,对数据处理的响应速度有较高的要求,因此新存储应优先考虑其IOPS性能指标,即单位时间内的存储系统能够处理的IO请求数量,使新存储有较高的随机数据访问处理速度。另一方面,新存储系统应有较高的存储缓存性能,较大的存储缓存会显著提高存储的读写速度。

旧的存储系统配置为16GB缓存,24块300GB 转速为10000RPM的普通SAS硬盘,存储机型的CPU和缓存性能较低,并且由于硬盘的转速较低,存储无法提供更多的IPOS读写,存在一定的性能瓶颈,限制了存储数据读写访问速度。

新的存储系统配置为双控制器,256GB高速缓存,8个16Gbps光纤接口,冗余电源等特性,存储硬盘为6块单盘1.92TB Flash固态闪存硬盘+8块900GB 转速为15000RPM的SAS硬盘,无论是从容量的扩展性还是系统CPU、缓存性能方面都有了较大提升,完全能够满足当前和未来五年内的ERP数据量需求。

三、技术介绍

LVM Mirror(Logical Volume Manager Mirror):逻辑卷管理器的数据镜像技术。这是一种双磁盘系统数据同步复制机制,是基于IBM主机系统和IBM存储系统相互配合使用的,是目前技术成熟度高,实施快速简便,应用行之有效的数据冗余方式。

新增存储设备后的拓扑:

新映射的卷在AIX系统中通过HACMP高可用集群软件加入到原来的VG卷组中,通过卷镜像技术实现数据的同步复制。

为了实现数据的同步,我们利用数据镜像功能LVM,为已有的磁盘A(下图所示之“VG中原逻辑卷LV”)上的生产数据添加一个拷贝,并将其镜像设备指定为磁盘B(下图所示之“VG中新增逻辑卷LV”)。

正常工作模式下,数据的写入操作可以用下图说明:

生产系统对磁盘A数据的任何更新都实时地写入磁盘B中,二者的更新方式可以选择顺序方式或者并行方式,建议使用并行方式(双写模式)以增加整体性能。

四、 方案选型与设计

1、技术路线

考虑到之前旧存储磁盘读写性能瓶颈问题,尤其是数据库读写频繁的情况下,数据库所在hdisk的busy使用率一直居高不下。在选型中优先考虑闪存盘。

关于V7000升级到闪存,经过调研了解,主要有三条路线如下:

成本较低,比较老的一代V7000可以新购5030F来满足闪存功能;二代及以上V7000可以直接加闪盘升级为V7000F。

如果用户已有虚拟机的功能,可以升级到V7000G3(V9100低配版)来实现闪存功能。

如果对闪存的性能要求较高,做长远的规划,可以购买起配容量较高的F900/FS9100(压缩能力强),性价比高。

2、适用场景

V7000F:

配置:最大八控制器;最大1024GB缓存;每控制器10核Intel CPU;64个前端FC接口;支持24块盘2U扩展柜;支持96块盘5U扩展柜;支持Flash。支持SAS、NL_SAS。适用于大部分的应用场景,具有丰富的存储功能。V7000F的性能与所配置的闪存盘的数量有很大关系。由于其可以根据企业业务自身需求情况,配置闪存盘数量,所以对于业务压力不是极端条件下的系统,此方案在性价比上非常不错。

V7000G3:

关于V7000G3,没有找到太多详细资料,个人对此产品不是十分了解。在此就放上找到的两种产品资料图,作为代表。

F900:

全闪存F900适用于用户需要极致的IO响应速度,对于存储功能要求少的场景,或者结合SVC来使用。F900特别适用于关键应用加速、AI模型训练等场景。第一代F900配置12个模块的SPC-1测试为40多万IOPS,而且响应时间都在0.5ms以内。比较适合的场景如:

•在线交易处理(OLTP)

•在线分析处理(OLAP)

•虚拟桌面基础架构(VDI)

•云规模的基础架构

•计算型应用

talkwithtrend社区(twt社区)内有详尽的F900技术手册及应用场景介绍,在此我就不进行过多介绍了,有兴趣的可以在社区进行搜索。

经过充分考虑,在本方案中,新购一台IBM V7000作为新的核心存储系统,原存储充分利旧,作为容灾备用存储。新存储中创建与原存储具有相同容量和数量的存储卷,影射给主机。在主机操作系统中通过HACMP高可用软件将新增逻辑卷加入到原卷组VG中做LVM的卷镜像,数据同步的过程可全程在线操作,数据复制在后台完成,整个过程无需对业务进行停机。当数据初次复制完成后,新购存储卷将与原来的存储卷保持数据同步的一致性关系,新业务产生的数据将在两套存储中各写一份。

五、具体实现

1、迁移前的的准备工作:

机房现状梳理:

主要是为了充分了解机房实际运行环境,规划设备安装位置,确定其他主机存储设备状态,包括小型机、光纤交换机等,收集交换机zone和端口状态信息,并在了解当前和未来具体技术需求后,确认本次项目的技术实施方案,与业务单位协调实施计划等。

设备到货安装:

新存储到货之后,协调仓库验货签收。在对设备进行初步外观检验后,将设备运送至机房并拆箱上架安装,将设备安装至机柜,并连线到光纤交换机,对新设备进行加电初始化,在初始化步骤完成后,登录存储管理界面检查系统硬件配置是否符合招标及合同要求。

光纤交换机配置:

在新V7000设备连线后,需要对现有的两台B24交换机的zone进行配置,V7000的A控和B控分别连接两台光交,交换机端口使用12口和13口。

V7000 A控1口连接B24_up的12口,2口连接B24_down的12口

V7000 B控1口连接B24_up的13口,2口连接B24_down的13口

在光交命令行中利用zonecreate命令进行端口配置,cfgadd命令配置config文件,最后cfgsave保存。

1.1、根据原来存储系统的配置情况,记录划分的卷、唯一标识号、与主机间的映射关系等。

1.2、根据旧存储上卷(LUN)的划分情况,对新存储进行相关配置。为方便做镜像,划分卷时容量大小与旧存储上卷大小保持一致。如果需要扩容,请新建卷。配置完成后映射给相关主机。

新V7000的RAID配置:

本次V7000实际配置硬盘包括:6块1.92TB SSD硬盘,8块900GB SAS硬盘。根据实际业务需求,分别创建两个存储池SSD_Pool和SAS_Pool。SSD硬盘和SAS硬盘分别保留一块盘作为热备盘,剩余硬盘分别创建RAID 5,然后分别加入至存储池中。在RAID创建完成后,SSD存储池可用容量约7TB,SAS存储池可用容量约4.9TB。

LUN配置:

根据实际需求,在新V7000中创建LUN,用于后期LVM数据镜像复制,故新创建的LUN大小和数量应与现有V7000保持一致。如需扩容,可新增LUN。

创建主机:

在zone划分完成后,在每台主机系统中运行cfgmgr命令扫描新光纤设备,而后在新V7000中创建主机,按照前期统计的每台主机光纤卡的WWN号分别进行添加。

存储卷映射:

将新创建的LUN按照现有V7000存储的映射关系对每个LUN进行主机映射,映射操作完成后,在AIX操作系统中运行cfgmgr命令即可扫描发现新硬盘,在扫描到磁盘后,在主机系统中查看磁盘状态和链路是否正常,lsdev –Cc disk状态应为可用状态,磁盘多路径链路应为自动聚合。

微码升级:

为保障新购V7000存储的后期稳定运行,将新购V7000存储的微码进行升级,以降低存储软件运行故障风险,升级存储至最新稳定版本7.8.1.7,升级过程约1个半小时。

至此,数据迁移前的各项准备工作已完成。为了数据安全及检测硬件设备运行状况是否稳定,可让新的V7000在没有数据的情况下加电运行一周进行观察。待一切都没有问题后再进行数据迁移操作!

2、数据迁移:

本文以DB2数据库数据同步为例,详细讲述整个操作过程:

2.1、新存储上划分卷lun_db1\lun_db2,卷容量大小建议与原存储上卷相等,便于后面做镜像。(图中lun_db3为以后扩容卷)

按照规划,DB01上的数据库卷运行与SSD固态盘池中,其余文件系统运行于SAS普通盘池中。

如果需要扩容,可以新建卷,等数据同步完毕后再扩容。

2.2、根据HA高可用规则,将共享卷映射给主机DB01。

2.3、DB01小机AIX系统中运行cfgmgr –v 刷新设备。lspv查看新映射过来的物理设备。新卷hdisk6和hdisk7无PVID号。

此时,AP01已经迁移完毕。hdisk2是原存储上的apvg。hdisk5是新存储上的卷。我们的目标是将新卷hdisk6和hdisk7添加到dbvg中,利用hdisk3和hdisk4做mirror镜像。

2.4、利用命令chdev –l hdisk6(disk7) –a pv=yes给新磁盘赋予PVID号。

PVID号是磁盘的全局唯一ID号。

2.5、利用命令bootinfo –s hdisk6(hdisk7)可以查看每个磁盘的大小。

当有多个大小不同的卷映射到同一小机时,借助此命令可以帮助用户区分不同的磁盘 。

2.6、将hdisk6和hdisk7分别通过HA集群命令添加至dbvg中。

#smit cl_admin 进入ha

选择需要增加卷的VG

根据PVID号选择需要加入VG中的新卷hdisk6。再来一遍添加hdisk7,此处不能同时选择两个或多个卷。

2.7、验证是否已经加入VG中。命令# lspv

2.8、dbvg内部做镜像,数据做同步。命令# smit cl_admin->Storage->Volume Groups->Mirror a Volume Group

选择dbvg后,选择需要同步的目标盘(新盘) hdisk6和hdisk7   同步模式的时候,选择不同步no sync(此时,因为dbvg太大  最好/db2 、/db2backup分别进行同步)

镜像完成后,选择同步。

# lsvg -l dbvg

查看vg中的lv个数,通过LV逐个进行数据同步。

分别选择db2lv、loglv01、db2backuplv进行同步。

2.9、数据同步过程中验证同步进度。# lspv查看同步进度  stale PPs

图为同步db2backuplv时的过程。stale PPs数逐渐变小,当stale PPs为0时,同步完成。

同步过程中随时关注磁盘性能:

数据从hdisk4读出,写入至新卷hdisk7中。数据同步的过程中,新业务数据双写。

同步完毕后状态:LPs:PPs=1:2

2.10、观察一段时间,验证业务是否正常。

2.11、unmirror vg,选择dbvg中的原卷hdisk3和hdisk4。(此处F7能多选)

2.12、unmirrorvg后,验证dbvg。

此时:

LPs:PPs=1:1

hdisk3和hdisk4中的FREE PPs=TOTAL PPs

2.13、dbvg中删除原卷hdisk3和hdisk4。

2.14、验证vg

2.15、AIX系统中删除旧逻辑卷,旧V7000中取消磁盘映射关系。

六、总结

ERP核心数据从旧存储迁移到新存储后,二者性能对比明显:

原文地址:https://www.cnblogs.com/dahaoran/p/11582829.html

时间: 2024-10-07 08:41:56

实战利用LVM卷镜像技术实现不停业务的数据在线迁移,核心存储升级混闪V7000F 转的相关文章

柯南君 :Oracle 分区技术 之 如何支撑大数据操作?

前段时间,看了罗女士( 资深技术顾问 - Oracle 中国 顾问咨询部)关于<大批量数据处理技术的演讲>视频,感觉受益良多,结合多年的知识积累,柯南君给大家分享一下: 交流内容: 一.Oracle的分区技术 (一)分区技术内容 1. 什么是分区? 分区就是将一个非常大的table或者index 按照某一列的值,分解为更小的,易于管理的逻辑片段---分区.将表或者索引分区不会影响SQL语句以及DML(见备注)语句,就和使用非分区表一样,每个分区拥有自己的segment(见备注),因为,DDL(

CentOS下LVM逻辑卷管理技术解释

1.LVM逻辑卷管理技术产生的背景 企业日益变化的存储需要使得传统的磁盘分区存储显得不够灵活 2.磁盘分区存储 对于这样的三个物理分区的话,迟早有一天会被数据填满,因为它是死的,无法进行缩放. 假设下面表示的是/dev/sda磁盘上的三个分区: 1).初始化/dev/sda上的这三个物理分区: 命令:# pvcreate /dev/sda1 /dev/sda2 /dev/sda3 或#pvcreate /dev/sda[1-3] 2).将这三个物理卷PV ,合并成一个卷组(VG Volume G

LVM实现逻辑卷镜像

本文系统 Centos 6.5 x64 LVM的镜像功能,有点儿类似于Raid1,即多块儿磁盘互相同步,确保资料不会丢失. 1.在此添加4块物理硬盘,每块2G空间 2.将sdb.sdc.sdd.sde 创建物理卷,将sdb.sdc.sdd 添加卷组到vmTest [[email protected] ~]# pvcreate /dev/sdb    Physical volume "/dev/sdb" successfully created [[email protected] ~]

烂泥:KVM利用LVM快照快速部署虚拟机

本文首发于烂泥行天下. 上一篇文章介绍了有关KVM利用LVM快照备份和恢复虚拟机的功能,这篇文章我们来介绍,如何利用LVM快照功能为KVM快速部署虚拟机. 部署虚拟机需要以下几个步骤: 1. 创建LVM快照 2. 修改虚拟机的XML配置文件 3. 通过virsh define命令定义虚拟机 4. 启动虚拟机,并修改相关网络设置 既然是利用LVM的快照功能,那么我们就先创建一个快照.如下: lvcreate -L 100M -s -n lvmsp2 /dev/vg1/lvmsp 有关KVM相关的文

RedHat 6 创建和扩容LVM卷

LVM卷可以很灵活方便地在线调整磁盘空间的大小,可以使用同一块硬盘的其他分区进行扩容,也可以使用其他硬盘进行扩容,本文将分别进行测试,本文使用的测试环境是Red Hat Enterprise Linux Server release 6.5 (Santiago). LVM主要由物理卷(PV).卷组(VG).逻辑卷(LV)三层构成,具体如下: PV(physical volume,PV):物理卷,它的文件格式不是ext4这些,而是具有LVM管理功能的LVM格式 VG(Volume Group,VG

烂泥:KVM利用LVM快照备份与恢复虚拟机

本文首发于烂泥行天下. 最近一段时间一直在学习有关LVM逻辑卷方面的知识,前几篇文章介绍了有关LVM的逻辑卷的基本相关知识,包括逻辑卷及卷组的扩容与缩小.今天我们再来介绍LVM快照的功能. 注意:本次实验是与虚拟化KVM进行集成测试,通过KVM虚拟机是否正常启动来检查LVM的备份与恢复. 有关LVM的快照功能,我们可以通过lvcreate –help命令,查看帮助文档.如下: 先来查看系统中逻辑卷,使用lvs命令.如下: 通过上图,我们可以看到目前系统中只有一个逻辑卷/dev/vg1/vhost

将Linux系统转至LVM卷的方法

朋友今天突然找我,说是要把他的 Linux 系统的根分区磁盘扩大.接到这个问题,我马上开始查看下系统情况.是一台 CentOS 6.6 的系统,有两块磁盘分别是:/dev/vda1 是 15G 的根卷,/dev/vda2 是 1G 的交换分区,而整个 /dev/vda 磁盘总大小是 21G(有 5G  的 /dev/vda5 空闲空间).现在要求增大/dev/vda1 分区. 有三个解决方案: 第一个就是将 /dev/vda 上的空闲分区(/dev/vda5)随意作为 /home./var 之类

烂泥:LVM学习之KVM利用LVM快照备份与恢复虚拟机

本文由秀依林枫提供友情赞助,首发于烂泥行天下. 最近一段时间一直在学习有关LVM逻辑卷方面的知识,前几篇文章介绍了有关LVM的逻辑卷的基本相关知识,包括逻辑卷及卷组的扩容与缩小.今天我们再来介绍LVM快照的功能. 注意:本次实验是与虚拟化KVM进行集成测试,通过KVM虚拟机是否正常启动来检查LVM的备份与恢复. 有关LVM的快照功能,我们可以通过lvcreate –help命令,查看帮助文档.如下: 先来查看系统中逻辑卷,使用lvs命令.如下: 通过上图,我们可以看到目前系统中只有一个逻辑卷/d

unity3d开发实战《啪啪三国》技术详解!

去年11月,上海火溶网络CEO王伟峰以其第一款3d手游产品<啪啪三国>为例,着重讲解了unity3D手机网游开发的经验,其中涉及了团队组成.人员要求.常见的unity3d开发遇到的坑及解决办法.在演讲中,王伟峰也贡献了<啪啪三国>开发过程中总结的各种经验,从优化.插件库.服务器架构.SDK等很多细节进行了讲解.值得一说的是,王伟峰现场演讲十分幽默,冷笑话段子不断爆出,让在场观众在连续的笑声中听完这个特别的技术演讲. <ignore_js_op> 以下是王伟峰现场演讲实录