MS SQL到Oracle的数据迁移笔记

MS SQL到Oracle的数据迁移笔记

一、任务背景

  旧系统使用MS SQL Server数据库,新系统使用Oracle数据库,现在需要将旧系统中的数据迁移到新系统中,旧数据按照约定的规则转换后,能够在新系统中使用或查询。另外,新系统的实施人员并不清楚旧系统的数据结构,且两个新旧两个系统的使用的数据结构有较大的差异。为了叙述方便,将旧系统维护人员简称为A,新系统实施人员简称为B。

二、总体思路

  1、  A与B根据各自了解的信息,一起制定中间表;

  2、  A从MS SQL Server提取数据,并导出为中间表数据,保存为txt文件;

  3、  B将txt文件中的数据导入Oracle中间表;

  4、  B将Oracle中间表的数据,合并到业务逻辑使用的数据表。

三、具体实现

  第1步,涉及到具体的业务逻辑,此处省略。

  第2步,使用MS SQL Server 的BCP命令从MS SQL Server导出数据,并且使用批处理将多个表一起导出(此处只列出一个表),见下图:

  

  第3步使用Oracle 的sqlldr命令将上一步导出的数据导入Oracle,见下图:

  

  控制文件:

  第4步,涉及到具体业务逻辑的转换,这里使用Merge合并数据,同时兼容增量导入的需要。此处也省略。

  最后将这三步使用批处理连贯起来,形成一个文件,最后只需执行此批处理文件即可完成从MS SQL Server导出,到导入Oracle和执行Oracle中的Procedure的整个数据迁移过程。

  目录结构见下图:

  

  说明:

  bad:存放sqlldr执行过程中发生的错误信息

  bat:存放导出、导入、执行sql文件夹中SQL的批处理文件,见下图:

    执行sql文件夹中SQL的批处理文件:

    

    bat目录的文件:

    

  ctl:存放sqlldr所需的CTL文件

  data:存放BCP导出和sqlldr导入的数据

  sql:存放执行Oracle 执行的SQL,在每一个sql文件中SQL语句的最后加上一句”EXIT;“

  DATA_Export_Import_3in1.bat:将bat中所有批处理文件按顺序合并执行,并且输出每一步的执行log信息,见下图。运行此文件即可完成整个过程的数据迁移。

  

四、总结

  刚开始做这个任务的时候,使用的是SQL Developer的复制表功能——从MS SQL Server数据库将表拷贝到Oracle,见下图:

  

  使用这个方法,可以顺利将数据表拷贝到Oracle,而且操作方便简洁,但是速度比较慢,两种方法的比较见下表(由实际操作中多次导数的统计结果):

  

  从上表可以看出,使用”BCP & SQLLDR“方法在同样数据量的情况下,耗时远小于”SQL Developer“的方法。

  另外在实践中,还发现使用”BCP & SQLLDR“有以下几个特点:

  1、可以再导出时对要导出的数据进行筛选,通过在BCP命令中编写SQL;

  2、可以对要导入的数据进行一些简单的格式化(如去除空格、替换不需要的字符等),通过在SQLLDR的CTL文件中处理。

  3、整个执行过程都可以获取log,对出错问题的处理比较方便。

---------------------------------------------------------------------------------------------------------------------------------------

以上内容为个人实践总结,如有不足之处,敬请指出。

   


 

MS SQL到Oracle的数据迁移笔记

时间: 2024-12-29 05:34:23

MS SQL到Oracle的数据迁移笔记的相关文章

OLEDB 连接 和 效率(MS SQL 、Oracle 、ACESS)

这半年手头的一个项目,自己写代码的时候偏爱 MS SQL.部署服务器装的是 ORALCE 和 实际的现场是小型机,压根没有装数据库只好选用 ACESS ,三种环境不一致,才决定用 OLEDB 做数据库访问.之前忙于赶进度草草地封了几个增删改查的操作,年前闲下来做测试还发现了不少问题.趁着这几天闲就从头封装了一次,做出单独的一个简单类出来. 为了调用的时候传递方便就直接从 IDbCommand 继承过来,这样传参还是调用都留下了余地,封装很简单直接上类图 本文的小工具和封装类,已经提交到了GIT

oracle学习-数据迁移

如果只是迁移表空间或者数据文件,可以先将表空间或者数据文件offline之后移动位置,并通过 alert database rename 和 alter tablespace rename 将位置变化写入控制文件即可 例 迁移数据文件 ALTER DATABASE DATAFILE '所要迁移的数据文件' OFFLINE; 拷贝到新位置 ALTER DATABASE RENAME FILE '索要迁移的数据文件' TO '新位置的数据文件'; 介质恢复 RECOVE DATAFILE '新位置的

SQL SERVER几种数据迁移/导出导入的实践

SQLServer提供了多种数据导出导入的工具和方法,在此,分享我实践的经验(只涉及数据库与Excel.数据库与文本文件.数据库与数据库之间的导出导入). (一)数据库与Excel 方法1: 使用数据库客户端(SSMS)的界面工具.右键选择要导出数据的数据库,选择“任务”——“导出数据”,下图1,按照向导一步一步操作即可.而导入则相反,导入时,SQLServer会默认创建一张新表,字段名也默认跟导入的Excel标题一样,并且会默认字段数据类型等.当然在可以在向导进行修改.需要注意的是如果标题不是

MS SQL 模仿ORACLE的DESC

前言: 在ORACLE数据库的SQL*PLUS里面有个DES(DESCRIBE)命令,它可以返回数据库所存储对象的描述,如下所示 SQL> DESC STUDENT_SCORE   Name Type Nullable Default Comments   ---------------- ---------- -------- ------- --------   STUDENT_NO NUMBER(10) 学号   CHINESE_SCORE NUMBER Y 语文成绩   ENGLISH_

oracle 数据库数据迁移解决方案

大部分系统由于平台和版本的原因,做的是逻辑迁移,少部分做的是物理迁移,接下来把心得与大家分享一下 去年年底做了不少系统的数据迁移,大部分系统由于平台和版本的原因,做的是逻辑迁移,少部分做的是物理迁移,有一些心得体会,与大家分享. 首先说说迁移流程,在迁移之前,写好方案,特别是实施的方案步骤一定要写清楚,然后进行完整的测试.我们在迁移时,有的系统测试了四五次,通过测试来完善方案和流程. 针对物理迁移,也即通过RMAN备份来进行还原并应用归档的方式(这里不讨论通过dd方式进行的冷迁移),虽然注意的是

数据迁移笔记

[数据迁移前的准备] 1.将两个数据库中对应的表的基本数据一一对应,总结在excel文档中--映射关系表. (1).对于某些特殊数据,新旧系统的处理方式可能不一致,如flg类字段的0,1,2...分别对应的值是否一致:旧系统多个字段对应新系统一个字段的情况. (2).对于某些数据,在旧系统中需要关联多张表才可以获取数据,将关联到的表登记下来. (3).[前处理]在新旧系统中的字段类型不同,如日期,可以做相应的转换:字段大小不同,先将新系统中的字段扩大. (4).[前处理]有些数据在新旧系统的页面

redis 数据迁移笔记

老服务器上内存一直报警,所以要把一部分redis数据迁移到新服务器上去. 迁移的方式有两种,一种是停服务器,搬迁数据:另一种通过主从同步转移. 停服务器,搬迁数据 首先在原服务器上执行redis-cli shutdown命令,该命令会触发保证写RDB文件以及将AOF文件写入磁盘,不会丢失数 停服务器,搬迁数据 首先在原服务器上执行redis-cli shutdown命令,该命令会触发保证写RDB文件以及将AOF文件写入磁盘,不会丢失数据. 如果是kill -9 pid就会丢失数据. 然后将RDB

oracle跨平台数据迁移 expdp/impdp 字符集问题 导致ORA-02374 ORA-12899 ORA-02372

环境描述: 源数据库环境: 操作系统:Windows SERVER 2008R2 数据库版本:单实例 ORACLE 11.2.0.1 目标端数据库环境: 操作系统:redhat linux 6.5 x86 64bit 数据库版本:ORACLE 11g RAC 11.2.0.4 故障描述: 从源数据库expdp导出数据,然后往目标数据库impdp导入的时候报错: ORA-02374: conversion error loading table "QBJMES"."PROJEC

利用expdp/impdp数据泵对oracle进行数据迁移

按照惯例先报系统环境: 导出环境: 操作系统Release版本:CentOS 6.5 OS内核Kernel版本:2.6.32-431.el6.x86.64 Oracle版本信息: SQL> select * from v$version; BANNER -------------------------------------------------------------------------------- Oracle Database 11g Enterprise Edition Rel