Oracle单表去重复(一)

去重有两层含义,一:是记录完全一样;二:是符合一定条件的认为是重复。

根据表的数量,去重可划分为:单表去重和多表关联去重。

对于去重,一般最容易想到的是用distinct,而distinct只能对记录完全重复的记录保留一条。

distinct使用的是二重循环的方式来去重的,如果数据量非常大的时候,会导致性能急剧下降。

例如:select distinct 字段名 from 原表;

此应用案例,主要有删除表中的完全重复的记录:

insert into 临时表 select distinct 字段名 from 原表;
drop table
原表;
rename 临时表名 to 原表名;

下面的是从网上找的一篇文章,在文章最后我会给出文章的出处。

而这位老兄写了挺多,先跟作者说声辛苦啦,俺也在加班,暂不详细研究。详文如下:

重复的数据可能有这样两种情况,第一种:表中只有某些字段一样,第二种:两行记录完全一样。
第一、对于部分字段重复数据的删除
       
先来谈谈如何查询重复的数据吧。
       
下面语句可以查询出那些数据是重复的:
select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having
count(*) > 1
       
将上面的>号改为=号就可以查询出没有重复的数据了。
       
想要删除这些重复的数据,可以使用下面语句进行删除
delete from 表名 a where 字段1,字段2
in
    (select 字段1,字段2,count(*) from 表名 group by 字段1,字段2
having count(*) > 1)
       
上面的语句非常简单,就是将查询到的数据删除掉。不过这种删除执行的效率非常低,对于大数据量来说,可能会将数据库吊死。所以我建议先将查询到的重复的数据插入到一个临时表中,然后对进行删除,这样,执行删除的时候就不用再进行一次查询了。如下:
CREATE
TABLE 临时表 AS
(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having
count(*) > 1)
       
上面这句话就是建立了临时表,并将查询到的数据插入其中。
       
下面就可以进行这样的删除操作了:
delete from 表名 a where 字段1,字段2 in (select 字段1,字段2 from
临时表);
       
这种先建临时表再进行删除的操作要比直接用一条语句进行删除要高效得多。

      
这个时候,大家可能会跳出来说,什么?你叫我们执行这种语句,那不是把所有重复的全都删除吗?而我们想保留重复数据中最新的一条记录啊!大家不要急,下面我就讲一下如何进行这种操作。
      
在oracle中,有个隐藏了自动rowid,里面给每条记录一个唯一的rowid,我们如果想保留最新的一条记录,
我们就可以利用这个字段,保留重复数据中rowid最大的一条记录就可以了。
      
下面是查询重复数据的一个例子:
select a.rowid,a.* from 表名 a 
where a.rowid
!= 
(
   select max(b.rowid) from 表名

   where a.字段1 = b.字段1 and 
   a.字段2 =
b.字段2 
)
      
下面我就来讲解一下,上面括号中的语句是查询出重复数据中rowid最大的一条记录。
      
而外面就是查询出除了rowid最大之外的其他重复的数据了。
      
由此,我们要删除重复数据,只保留最新的一条数据,就可以这样写了:
delete from 表名 a 
where a.rowid
!= 
(
   select max(b.rowid) from 表名

   where a.字段1 = b.字段1 and 
   a.字段2 =
b.字段2 
)

       顺便说一下,上面语句的执行效率是很低的,可以考虑建立临时表,讲需要判断重复的字段、rowid插入临时表中,然后删除的时候在进行比较。
create
table 临时表 as 
    select a.字段1,a.字段2,MAX(a.ROWID) dataid
from 正式表 a GROUP BY a.字段1,a.字段2;
delete from 表名 a 
where a.rowid
!= 
(
   select b.dataid from 临时表 b 
  
where a.字段1 = b.字段1 and 
   a.字段2 =
b.字段2 
);
commit;

第二、对于完全重复记录的删除
       
对于表中两行记录完全一样的情况,可以用下面语句获取到去掉重复数据后的记录:
select distinct * from
表名
可以将查询的记录放到临时表中,然后再将原来的表记录删除,最后将临时表的数据导回原来的表中。如下:
CREATE TABLE 临时表 AS
(select distinct * from 表名);
drop table 正式表;
insert into 正式表 (select *
from 临时表);
drop table 临时表;

如果想删除一个表的重复数据,可以先建一个临时表,将去掉重复数据后的数据导入到临时表,然后在从
临时表将数据导入正式表中,如下:
INSERT
INTO t_table_bak
select distinct * from t_table;

文章出处:http://hi.baidu.com/zf1315/item/21a03b7fb6c7f62d5c1789d4

Oracle单表去重复(一),布布扣,bubuko.com

时间: 2024-10-25 16:30:18

Oracle单表去重复(一)的相关文章

Oracle单表去重复(二)

Oracle单表去重 去重有两层含义,一:是记录完全一样.二:是符合一定条件的认为是重复. 根据表的数量,去重可划分为:单表去重和多表关联去重. 对于去重,一般最容易想到的是用distinct,而distinct只能对记录完全重复的记录保留一条. distinct使用的是二重循环的方式来去重的,如果数据量非常大的时候,会导致性能急剧下降. 我们前一篇文章已经给出了详解,你可以去查看 Oracle单表去重复(一) 下面是一个单表去重的测试,认为name字段相同的即为重复记录,要查询出一个结果,过滤

Oracle 单表选择率

听了猫大师的课,对Oracle CBO又加深了一步理解: 单表选择率: selectivity=1/ndv*a4nulls ocard来自dba_tables.num_rows ndv 来自dba_tab_col_statistics中的num_distinct where 条件为 owner='' AND table_name='' and column_name='' a4nulls 来自dba_tab_col_statistics中的num_nulls where  条件为 owner='

[数据库] Oracle单表查询总数及百分比和数据横向纵向连接

这是最近项目关于SQL语句的,本文简单记录并总结以下几个知识点: 1.如何统计一张表中某个字段的总数,如不同"专业"的学生数及所占百分比: 2.如何联系另一张表进行查询某个字段的总数及百分比: 3.简单介绍decode防止分母为0和trunc保留小数位数等函数: 4.通常复杂的SQL语句会涉及到查询结果横向连接和纵向连接,这里进行介绍. 最近买了本<Oracle查询优化改写技巧与案例·有教无类 落落>,推荐大家也阅读下.后面我也会补充一些相关数据的知识,希望对大家有所帮助吧

oracle——单表查询

1. 基本(基础)查询 1.1. 基本查询语法 基本查询是指最基本的select语句. [语法] [知识点]如何使用工具进行查询 在plsql developer中打开查询窗口(执行sql语句): 执行语句的操作: 选中要执行的语句,点击执行按钮或者按快捷键F8,下方会显示查询的结果. 显示下一页记录和显示剩余的所有页的记录: 注:如果想学习工具的详情使用,可参阅文档<plsql developer中文手册.pdf> 1.2. 选择列 [语法] 选择全部列: 选择特定列: [知识点] 两种语法

[转抄]oracle单表查询去重(效率比较高的一种方式)

1 select 2 * 3 from 4 ( 5 select 6 a.*, rownum r_n 7 from 8 A_TEST a 9 ) tt 10 where 11 tt.r_n in 12 ( 13 select 14 min(rownum) 15 from 16 A_TEST t 17 group by name //name为去重字段 18 ) 查询原理是: 将表按要去重的字段分组,查询出分组后每组的最小行号,以此作为筛选条件,从表中取出这些记录. (说明:此方法为网络获取,并没

使用oracle删除表中重复记录

(1)使用用rowid方法 查询重复数据:select * from person a where rowid !=(select max(rowid) from person b where a.cardid=b.cardid and a.pname=b.pname);        删除重复数据:delete from person a where rowid !=(select max(rowid) from person b where a.cardid=b.cardid and a.p

Oracle的单表查询语句

使用Oracle 数据库的测试表单: --单表查询数据 语法 select (查询) * 所有 /查询的字段,多个字段 ,隔开 from (来自) 表名称 --查询所有员工的信息 select * from scott.emp; select * from dept; --查询所有员工的编号,姓名和职位 指定字段名查找数据 select empno,ename,job from emp; --查询所有员工的编号,姓名和年薪 select * from emp; select empno,enam

Oracle用rowid删除同一张表的重复记录

经常有这样一个业务场景,我们在同一张表中有重复的记录,我们要删除重复的记录,这篇文章就是用来解决这个问题的,用的方法是我目前遇到的效率最高的方法(如果有更好的方法欢迎网友提供).这个方法会用到了rowid,下面简单介绍一下rowid的定义 1.ROWID定义 ROWID:数据库中行的全局唯一地址 对于数据中的每一行,rowid伪列返回行的地址.rowid值主要包含以下信息: 对象的数据对象编号 该行所在的数据文件中的数据块 该行中数据块的位置(第一行是0) 数据行所在的数据文件(第一个文件是1)

Oracle 数据库表中已有重复数据添加唯一键(唯一约束)

Oracle 数据库表中已有重复数据添加唯一键(唯一约束) 问题描述 以 demo 举例,模拟真实场景. 表 TEST_TABLE 有如下字段和数据:id 是主键,code 没有设置键和索引 ID CODE 1 code1 2 code2 3 code2 4 code2 5 code3 通过以上表中数据可以看出 code 是有重复数据的,此时如果我们直接添加唯一键,会报错. 通过 PL/SQL 可视化操作,或者通过 SQL 语句添加(ENABLE NOVALIDATE 的作用是约束新增数据但不会