sql语句去除重复记录(多表连接的查询)

--处理表重复记录(查询和删除)

/******************************************************************************************************************************************************

1、Num、Name相同的重复值记录,没有大小关系只保留一条

2、Name相同,ID有大小关系时,保留大或小其中一个记录

******************************************************************************************************************************************************/

--1、用于查询重复处理记录(如果列没有大小关系时2000用生成自增列和临时表处理,SQL2005用row_number函数处理)

--> --> 生成測試數據

 

if not object_id(‘Tempdb..#T‘is null

    drop table #T

Go

Create table #T([ID] int,[Name] nvarchar(1),[Memo] nvarchar(2))

Insert #T

select 1,N‘A‘,N‘A1‘ union all

select 2,N‘A‘,N‘A2‘ union all

select 3,N‘A‘,N‘A3‘ union all

select 4,N‘B‘,N‘B1‘ union all

select 5,N‘B‘,N‘B2‘

Go

--I、Name相同ID最小的记录(推荐用1,2,3),方法3在SQl05时,效率高于1、2

方法1:

Select from #T a where not exists(select from #T where Name=a.Name and ID<a.ID)

方法2:

select a.* from #T a join (select min(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID

方法3:

select from #T a where ID=(select min(ID) from #T where Name=a.Name)

方法4:

select a.* from #T a join #T b on a.Name=b.Name and a.ID>=b.ID group by a.ID,a.Name,a.Memo having count(1)=1 

方法5:

select from #T a group by ID,Name,Memo having ID=(select min(ID)from #T where Name=a.Name)

方法6:

select from #T a where (select count(1) from #T where Name=a.Name and ID<a.ID)=0

方法7:

select from #T a where ID=(select top 1 ID from #T where Name=a.name order by ID)

方法8:

select from #T a where ID!>all(select ID from #T where Name=a.Name)

方法9(注:ID为唯一时可用):

select from #T a where ID in(select min(ID) from #T group by Name)

--SQL2005:

方法10:

select ID,Name,Memo from (select *,min(ID)over(partition by Nameas MinID from #T a)T where ID=MinID

方法11:

select ID,Name,Memo from (select *,row_number()over(partition by Name order by ID) as MinID from #T a)T where MinID=1

生成结果:

/*

ID          Name Memo

----------- ---- ----

1           A    A1

4           B    B1

(2 行受影响)

*/

--II、Name相同ID最大的记录,与min相反:

方法1:

Select from #T a where not exists(select from #T where Name=a.Name and ID>a.ID)

方法2:

select a.* from #T a join (select max(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID order by ID

方法3:

select from #T a where ID=(select max(ID) from #T where Name=a.Nameorder by ID

方法4:

select a.* from #T a join #T b on a.Name=b.Name and a.ID<=b.ID group by a.ID,a.Name,a.Memo having count(1)=1 

方法5:

select from #T a group by ID,Name,Memo having ID=(select max(ID)from #T where Name=a.Name)

方法6:

select from #T a where (select count(1) from #T where Name=a.Name and ID>a.ID)=0

方法7:

select from #T a where ID=(select top 1 ID from #T where Name=a.name order by ID desc)

方法8:

select from #T a where ID!<all(select ID from #T where Name=a.Name)

方法9(注:ID为唯一时可用):

select from #T a where ID in(select max(ID) from #T group by Name)

--SQL2005:

方法10:

select ID,Name,Memo from (select *,max(ID)over(partition by Nameas MinID from #T a)T where ID=MinID

方法11:

select ID,Name,Memo from (select *,row_number()over(partition by Name order by ID descas MinID from #T a)T where MinID=1

生成结果2:

/*

ID          Name Memo

----------- ---- ----

3           A    A3

5           B    B2

(2 行受影响)

*/

--2、删除重复记录有大小关系时,保留大或小其中一个记录

--> --> 生成測試數據

if not object_id(‘Tempdb..#T‘is null

    drop table #T

Go

Create table #T([ID] int,[Name] nvarchar(1),[Memo] nvarchar(2))

Insert #T

select 1,N‘A‘,N‘A1‘ union all

select 2,N‘A‘,N‘A2‘ union all

select 3,N‘A‘,N‘A3‘ union all

select 4,N‘B‘,N‘B1‘ union all

select 5,N‘B‘,N‘B2‘

Go

--I、Name相同ID最小的记录(推荐用1,2,3),保留最小一条

方法1:

delete from #T a where  exists(select from #T where Name=a.Name and ID<a.ID)

方法2:

delete a  from #T a left join (select min(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID where b.Id is null

方法3:

delete from #T a where ID not in (select min(ID) from #T where Name=a.Name)

方法4(注:ID为唯一时可用):

delete from #T a where ID not in(select min(ID)from #T group by Name)

方法5:

delete from #T a where (select count(1) from #T where Name=a.Name and ID<a.ID)>0

方法6:

delete from #T a where ID<>(select top 1 ID from #T where Name=a.name order by ID)

方法7:

delete from #T a where ID>any(select ID from #T where Name=a.Name)

select from #T

生成结果:

/*

ID          Name Memo

----------- ---- ----

1           A    A1

4           B    B1

(2 行受影响)

*/

--II、Name相同ID保留最大的一条记录:

方法1:

delete from #T a where  exists(select from #T where Name=a.Name and ID>a.ID)

方法2:

delete a  from #T a left join (select max(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID where b.Id is null

方法3:

delete from #T a where ID not in (select max(ID) from #T where Name=a.Name)

方法4(注:ID为唯一时可用):

delete from #T a where ID not in(select max(ID)from #T group by Name)

方法5:

delete from #T a where (select count(1) from #T where Name=a.Name and ID>a.ID)>0

方法6:

delete from #T a where ID<>(select top 1 ID from #T where Name=a.name order by ID desc)

方法7:

delete from #T a where ID<any(select ID from #T where Name=a.Name)

select from #T

/*

ID          Name Memo

----------- ---- ----

3           A    A3

5           B    B2

(2 行受影响)

*/

--3、删除重复记录没有大小关系时,处理重复值

--> --> 生成測試數據

 

if not object_id(‘Tempdb..#T‘is null

    drop table #T

Go

Create table #T([Num] int,[Name] nvarchar(1))

Insert #T

select 1,N‘A‘ union all

select 1,N‘A‘ union all

select 1,N‘A‘ union all

select 2,N‘B‘ union all

select 2,N‘B‘

Go

方法1:

if object_id(‘Tempdb..#‘is not null

    drop table #

Select distinct into from #T--排除重复记录结果集生成临时表#

truncate table #T--清空表

insert #T select from #    --把临时表#插入到表#T中

--查看结果

select from #T

/*

Num         Name

----------- ----

1           A

2           B

(2 行受影响)

*/

--重新执行测试数据后用方法2

方法2:

alter table #T add ID int identity--新增标识列

go

delete from  #T a where  exists(select from #T where Num=a.Num and Name=a.Name and ID>a.ID)--只保留一条记录

go

alter table #T drop column ID--删除标识列

--查看结果

select from #T

/*

Num         Name

----------- ----

1           A

2           B

(2 行受影响)

*/

--重新执行测试数据后用方法3

方法3:

declare Roy_Cursor cursor local for

select count(1)-1,Num,Name from #T group by Num,Name having count(1)>1

declare @con int,@Num int,@Name nvarchar(1)

open Roy_Cursor

fetch next from Roy_Cursor into @con,@Num,@Name

while @@Fetch_status=0

begin

    set rowcount @con;

    delete #T where [email protected] and Name[email protected]Name

    set rowcount 0;

    fetch next from Roy_Cursor into @con,@Num,@Name

end

close Roy_Cursor

deallocate Roy_Cursor

--查看结果

select from #T

/*

Num         Name

----------- ----

1           A

2           B

(2 行受影响)

*/

时间: 2024-12-23 10:15:19

sql语句去除重复记录(多表连接的查询)的相关文章

用SQL语句去掉重复的记录(转)

海量数据(百万以上),其中有些全部字段都相同,有些部分字段相同,怎样高效去除重复? 如果要删除手机(mobilePhone),电话(officePhone),邮件(email)同时都相同的数据,以前一直使用这条语句进行去重: Sql代码 delete from 表 where id not in (select max(id) from 表 group by mobilePhone,officePhone,email ) or delete from 表 where id not in (sel

SQL Server数据库--》top关键字,order by排序,distinct去除重复记录,sql聚合函数,模糊查询,通配符,空值处理。。。。

top关键字:写在select后面 字段的前面 比如你要显示查询的前5条记录,如下所示: select top 5 * from Student 一般情况下,top是和order by连用的 order by用在表名的后面 order by后面就填你要按它排序的字段,是升序排序(从小到大排序) percent:百分比 %=percent 比如要显示5%的数据处理,不能写top 5%,而是top 5 percent 提示:如果top 5 percent出来的数是3.1条数据的话,是取四条数据,而不

SQL查询语句去除重复行

1.存在两条完全相同的纪录 这是最简单的一种情况,用关键字distinct就可以去掉 select distinct * from table(表名) where (条件) 2.存在部分字段相同的纪录(有主键id即唯一键) 如果是这种情况的话用distinct是过滤不了的,这就要用到主键id的唯一性特点及group by分组 select * from table where id in (select min(id) from table group by [去除重复的字段名列表,....])

数据检索,top,Distinct去除重复记录

--数据检索--语法:--select 字段列表/* from 表列表 where 条件----查询所有学员信息select * from student--带条件的查询select * from Student where Sex='女'select * from Student where Sex='男'--查询指定的列select StudentNo,StudentName,Sex,Address,Phone from Student--设置查询 结果集--虚拟表 的列名称select S

SQL语句汇总(终篇)—— 表联接与联接查询

既然是最后一篇那就不能只列出些干枯的标准语句,更何况表联接也是SQL中较难的部分,所以此次搭配题目来详细阐述表联接. 上一篇博文说到相关子查询效率低下,那我们怎么能将不同表的信息一起查询出来呢?这就需要用到表联接. 和之前的UNION组合查询不同,UNION是将不同的表组合起来,也就是纵向联接,说白了就是竖着拼起来. 而表联接是通过笛卡尔乘积将表进行横向联接,所谓的通过笛卡尔乘积简单说就是两表的行依次相联再相加.要想更详细的理解可以百度下,毕竟本文主要是汇总SQL语句. 现在有如下两张表: 这是

SQL语句汇总(一)——数据库与表的操作以及创建约束

首先,非常感谢大家对上篇博文的支持,真是让本菜受宠若惊,同时对拖了这么久才出了此篇表示抱歉. 前言:此文旨在汇总从建立数据库到联接查询等绝大部分SQL语句.SQL语句虽不能说很多,但稍有时间不写就容易出错.博主希望通过此文来战胜自己的健忘,如果大家认可也可以保留起来. "SQL"是 "Structured Query Language" 即“结构化查询语言”的简称,它是用来管理关系型数据库的. 其包括: –数据定义语言(DDL) –数据查询语言(DQL) –数据操作

Sql语句批量更新数据(多表关联)

最近在项目中遇到一个问题,原来设计的功能是不需要一个特定的字段值depid的,但是新的功能需要根据depid来展现,于是出现了这样一个问题,新增加的数据都有正确的depid,而原来的大量的数据就没有depid或者说depid不是想要的,面临要批量更新原来数据depid的问题. 更新涉及到三个表base_cooperativeGroup,base_groupuser,base_user. 列出表结构: 1.base_cooperativeGroup 2.base_groupuser 3.base_

sql语句,怎么查看一个表中的所有约束

sql语句,怎么查看一个表中的所有约束,比如,一个student表,有唯一,外键,主键,用sql语句怎么查看student表中的所有约束呢? select * from sysobjects where parent_obj in(select id from sysobjects where name='student')

Shell命令学习 之,sort,unique 文件简单排序去除重复记录

经常会碰到文件里有重复记录的场景,要么去除重复记录,要么统计下重复记录数,这些简单的功能可以通过shell命令里的sort,uniq组合实现, 比如文件a.txt记录如下 test,test1,test2 test test1 test2 test,test1,test2 abcd edfg abcd ddddd 去除重复行: sort a.txt |uniq abcd ddddd edfg test test,test1,test2 test1 test2 查找非重复行 [[email pro