(五)Sql server分区自动化案例

需求定义

统计表可能达到每天1000万数据。只查询当天的数据用于统计,可归档三月前的数据。得出分区方案如下:

  1. 每天生成一个分区
  2. 归档三个月前的分区

基本架构

  1. 固定生成12个辅助数据库文件,将每年当月的分区数据存放到当月的数据文件中。
  2. 每个源表拥有一个独立的分区方案。且Staging表与源表拥有相同的分区方案。
  3. 提前自动按天生成新分区。
  4. 每天迁移历史的分区数据到当月备份表中(备份表按月新建)

一、添加文件和文件组(固定12个月文件)

该脚本添加12个月的文件和文件组;此步骤在新建数据库的时候同时完成。生成结果如下图所示,文件和文件组名称相同,命名方式按数据库+月份。

USE PartionTest
GO
SET NOCOUNT ON
DECLARE @CMD VARCHAR(MAX)
DECLARE @DBName SYSNAME=‘PartionTest‘--数据库名称
DECLARE @FilePath VARCHAR(2000)=‘E:\Sqldata\SQL2012CHS\‘--文件存放路径

DECLARE @ERRORMSG VARCHAR(MAX)
SET @ERRORMSG=‘‘
/*生成文件和文件组脚本*/
DECLARE @i INT=1
SET @CMD=‘‘
DECLARE @GROUPNAME SYSNAME
WHILE @i< =12
BEGIN
    SET @GROUPNAME=@DBName+CASE WHEN @i<10 THEN ‘0‘+CAST(@i AS varchar(10)) ELSE CAST(@i AS varchar(10)) END
    IF NOT EXISTS (SELECT TOP 1 1 FROM  sys.filegroups WHERE name =@GROUPNAME)
    BEGIN
        SET @CMD=@CMD
        +CHAR(10)+‘ALTER DATABASE [‘+@DBName+‘] ADD FILEGROUP [‘+@GROUPNAME+‘]‘
        +CHAR(10)+‘ALTER DATABASE [‘+@DBName+‘] ADD FILE ( NAME = N‘‘‘+@GROUPNAME+‘‘‘,  FILENAME = N‘‘‘+@FilePath+@GROUPNAME+‘.ndf‘‘ , SIZE = 5120KB , FILEGROWTH = 51200KB ) TO FILEGROUP [‘+@GROUPNAME+‘]‘
    END
    ELSE
    BEGIN
      SET @ERRORMSG=@ERRORMSG+@GROUPNAME+‘已经存在‘+CHAR(10)
    END
    SET @i=@i+1
END
SET @CMD=‘/*新建文件组和文件*/‘+CHAR(10)+‘USE [master]‘+@CMD
PRINT (@CMD)

二、初始化分区(新增表时执行一次)

此脚本生成近30个分区,需要输入数据库名称和表名称,由于归档过程需要切换和合并分区,因此要求每个表拥有独立的分区方案

--新建分区datetime
USE Kaopustat
GO
SET NOCOUNT ON
DECLARE @CMD VARCHAR(MAX)
DECLARE @DBName SYSNAME=‘Kaopustat‘--数据库名称
DECLARE @TableName SYSNAME=‘PartionTest031‘--表名称
DECLARE @DATE_CYL INT=1 --间隔天数

DECLARE @ERRORMSG VARCHAR(MAX)
SET @ERRORMSG=‘‘

/*生成文件和文件组脚本*/
DECLARE @Date_i datetime
DECLARE @DatePartitionFunction varchar(max)
DECLARE @DatePartitionScheme varchar(max)
SET @DatePartitionFunction=‘‘
SET @DatePartitionScheme=‘‘
SET @Date_i=CONVERT(VARCHAR(24),GETDATE(),23)--从当天开始分区
WHILE @Date_i < DATEADD(D,30*@DATE_CYL,CONVERT(VARCHAR(24),GETDATE(),23))
BEGIN
    SET @DatePartitionFunction += N‘, ‘‘‘ + CONVERT(VARCHAR(10),@Date_i,23) + ‘‘‘‘  ;--循环获取日期
    SET @DatePartitionScheme += N‘‘‘‘ + @DBName+CASE WHEN  CONVERT(VARCHAR(6),DATEPART(MM,DATEADD(D, -@DATE_CYL, @Date_i)))<10 THEN ‘0‘+CAST( CONVERT(VARCHAR(6),DATEPART(MM,DATEADD(D, -@DATE_CYL, @Date_i))) AS varchar(10)) ELSE CAST( CONVERT(VARCHAR(6),DATEPART(MM,DATEADD(D, -@DATE_CYL, @Date_i))) AS varchar(10)) END+ ‘‘‘, ‘
    SET @Date_i = DATEADD(D, @DATE_CYL, @Date_i);
END
SET @DatePartitionFunction=STUFF(@DatePartitionFunction,1,2,‘‘)
SET @DatePartitionScheme=@DatePartitionScheme+‘‘‘‘+ @DBName+CASE WHEN  CONVERT(VARCHAR(6),DATEPART(MM,DATEADD(D, -@DATE_CYL, @Date_i)))<10 THEN ‘0‘+CAST( CONVERT(VARCHAR(6),DATEPART(MM,DATEADD(D, -@DATE_CYL, @Date_i))) AS varchar(10)) ELSE CAST( CONVERT(VARCHAR(6),DATEPART(MM,DATEADD(D, -@DATE_CYL, @Date_i))) AS varchar(10)) END+‘‘‘‘
IF NOT EXISTS(SELECT TOP 1 1  FROM sys.partition_functions  WHERE name=‘pf_‘+@TableName)
BEGIN
    SET @CMD=‘/*新建分区函数*/‘
              +CHAR(10)+‘USE [‘+@DBName+‘];‘
              +CHAR(10)+‘CREATE PARTITION FUNCTION [pf_‘+@TableName+‘] (datetime) AS RANGE RIGHT FOR VALUES (‘+@DatePartitionFunction+‘)‘--新建分区函数
    PRINT (@CMD)

    IF NOT EXISTS(SELECT TOP 1 1  FROM sys.partition_schemes  WHERE name=‘pc_‘+@TableName)
    BEGIN
    SET @CMD=‘/*新建分区架构*/‘
              +CHAR(10)+‘USE [‘+@DBName+‘];‘
              +CHAR(10)+‘CREATE PARTITION SCHEME [pc_‘+@TableName+‘] AS PARTITION [pf_‘+@TableName+‘] TO (‘+@DatePartitionScheme+‘)‘--新建分区架构
    PRINT (@CMD)
    END
    ELSE
    BEGIN
      SET @ERRORMSG=@ERRORMSG+‘pc_‘+@TableName+‘分区架构已经存在‘+CHAR(10)
    END
END
ELSE
BEGIN
  SET @ERRORMSG=@ERRORMSG+‘pf_‘+@TableName+‘分区函数已经存在‘+CHAR(10)
END
IF @ERRORMSG<>‘‘
BEGIN
;THROW 50000,@ERRORMSG,1
END

脚本内主要执行:

  1. 生成分区函数,按天生成,天数可以根据参数调整;分区函数命名:pf_表名
  2. 生成分区架构,将当月分区指定到当月的文件组内。文件组的指定比分区方式多一个;分区架构命名:pc_表名

三、新建分区表

  1. 新建分区业务源表,所有索引必须与源表分区对齐。
  2. 新建分区Staging表,用于存放分区临时数据。此表命名方式:Stagiing_ + 源表名 + _bak。

由于是通过源表切分区到Staging表,切换分区有以下要求:

  1. 两表必须同时拥有一个分区架构
  2. 若源表拥有聚集索引,Staging表也需要拥有相同的聚集索引
  3. Staging表只能拥有表结构和聚集索引。不能拥有如自增长,Check约束,外键,非聚集索引等。

新建完成可通过脚本查询分区新建情况:

SELECT Object_name(p.object_id) AS [object_name],
       id.name AS index_name,
       id.type_desc AS index_type,
       id.is_primary_key,
       id.is_unique,
       id.is_disabled,
       ps.name partition_scheme,
       ds.name filegroup,
       pf.name partition_function,
       pf.type_desc+‘:‘+case when pf.boundary_value_on_right=0 then ‘Left‘ else ‘Rigth‘ end function_type,
       pf.create_date,
       pf.modify_date,
      p.partition_number ,
       Isnull(prv.VALUE,‘‘) AS boundy_value,
       p.rows
FROM   sys.indexes id
       JOIN sys.partition_schemes ps
         ON ps.data_space_id = id.data_space_id
       JOIN sys.destination_data_spaces dds
         ON ps.data_space_id = dds.partition_scheme_id
       JOIN sys.data_spaces ds
         ON ds.data_space_id = dds.data_space_id
       JOIN sys.partitions p
         ON p.object_id = id.object_id
            AND p.index_id = id.index_id
            AND dds.destination_id = p.partition_number
       JOIN sys.partition_functions pf
         ON ps.function_id = pf.function_id
       LEFT JOIN sys.partition_range_values prv
         ON prv.function_id = pf.function_id
            AND prv.boundary_id = p.partition_number - pf.boundary_value_on_right
WHERE  Object_name(id.object_id) = ‘staging_PartionTest01_bak‘
order by id.index_id,p.partition_number

四、每天添加分区(作业)

初始化时已经提前生成30个分区,若分区拆分的时候该分区存在大量数据,将造成4倍的io消耗,因此需要在分区不存在数据的时候及时拆分掉。新建作业调用此存储过程每天执行。

该脚本为存储过程spb_add_date_partition。主要步骤:1、指定下个分区使用的文件组;2、拆分最后一个分区。

/*
每天执行一次,针对数据库
针对datetime类型分区
提前生成后30个分区
EXEC spb_add_date_partition @dbname=‘PartionTest‘,@partition_functions=‘pf_PartionTest01‘,@partition_schemes=‘pc_PartionTest01‘,@DATE_CYL=1
*/

CREATE PROC spb_add_date_partition
  @dbname sysname--数据库名称
  ,@partition_functions sysname--分区函数名称
  ,@partition_schemes sysname--分区架构名称
  ,@DATE_CYL int=1 --分区间隔,默认为1
as
DECLARE @CMD VARCHAR(MAX)
DECLARE @Date_i datetime

--数据库是否存在
IF NOT EXISTS(SELECT TOP 1 1 FROM sys.databases WHERE name=@dbname)
BEGIN
  ;THROW 50000,‘数据库不存在‘,1
END
--分区函数不存在
IF NOT EXISTS(SELECT TOP 1 1 FROM sys.partition_functions WHERE name=@partition_functions)
BEGIN
  ;THROW 50000,‘分区函数不存在‘,1
END
--分区架构不存在
IF NOT EXISTS(SELECT TOP 1 1 FROM sys.partition_schemes WHERE name=@partition_schemes)
BEGIN
  ;THROW 50000,‘分区架构不存在‘,1
END

SELECT @Date_i=DATEADD(D, @DATE_CYL,CONVERT(VARCHAR(24),convert(DATETIME,v.VALUE),23))--从已有最大分区开始分区
FROM   sys.partition_functions pf
       LEFT JOIN sys.partition_range_values v
         ON pf.function_id = v.function_id
WHERE  boundary_id IN (SELECT MAX(boundary_id)  FROM   sys.partition_functions pf LEFT JOIN sys.partition_range_values v  ON pf.function_id = v.function_id)
      AND pf.name=@partition_functions

WHILE @Date_i <= DATEADD(D,30*@DATE_CYL,CONVERT(VARCHAR(24),GETDATE(),23))--循环获取日期
BEGIN

    --确认文件组是否存在
    SET @CMD=‘USE [‘+@DBName+‘]‘
                 +CHAR(10)+‘ALTER PARTITION SCHEME [‘+@partition_schemes+‘] NEXT USED [‘+@DBName+CASE WHEN  CONVERT(VARCHAR(6),DATEPART(MM,@Date_i))<10 THEN ‘0‘+CAST( CONVERT(VARCHAR(6),DATEPART(MM,@Date_i)) AS varchar(10)) ELSE CAST( CONVERT(VARCHAR(6),DATEPART(MM,@Date_i)) AS varchar(10)) END+‘]‘
    EXEC (@CMD)

    SET @CMD=‘USE [‘+@DBName+‘];‘
              +CHAR(10)+‘ALTER PARTITION FUNCTION [‘+@partition_functions+‘]() SPLIT RANGE(‘‘‘+CONVERT(VARCHAR(10),@Date_i,23)+‘‘‘)‘--一个个添加,直到下月的当天
    EXEC (@CMD)

    SET @Date_i = DATEADD(D, @DATE_CYL, @Date_i);
END

五、每天归档三个月前的分区(作业)

由于表数据庞大,需要对源表历史数据做归档处理。数据过大,归档对io的消耗很大,建立高效的归档方案,需要有以下前提是Staging表按要求新建:新建分区表

作业调用归档存储过程spb_witch_partition,每天执行一次。

主要步骤:

  1. 取需要切出的分区信息
  2. 循环切出分区到Staging表
  3. 循环迁移临时表数据到备份表:调用存储过程spb_del_staging_partition
  4. 合并分区

alter PROC spb_witch_partition
@dbname sysname --数据库名称
,@tablename VARCHAR(128)
,@staging_tablename_bak VARCHAR(128)--要求改表拥有与原表相同架构和聚集索引。
,@partition_function sysname
,@partition_schemes sysname
,@MTH_I INT=3
as

DECLARE @MAXPartition_number INT--分区循环处理
DECLARE @MINPartition_number INT--分区循环处理

DECLARE @CMD VARCHAR(MAX)
SET @CMD=‘‘
DECLARE @CMD_MERGE VARCHAR(MAX)--合并要单独处理
SET @CMD_MERGE=‘‘

/*begin获取所有相关分区信息*/
DECLARE @P_table table(partition_number int,filegroup varchar(128),range_boundary datetime,rows int)
;WITH CTE AS(
SELECT DISTINCT
    p.partition_number,
    ds2.name as filegroup,
    convert(datetime,isnull(v.value,‘1900-01-01 00:00:00.000‘)) range_boundary,
    p.rows as rows
FROM sys.indexes i
JOIN sys.partition_schemes ps ON i.data_space_id = ps.data_space_id
JOIN sys.destination_data_spaces dds ON ps.data_space_id = dds.partition_scheme_id
JOIN sys.data_spaces ds2 ON dds.data_space_id = ds2.data_space_id
JOIN sys.partitions p ON dds.destination_id = p.partition_number AND p.object_id = i.object_id and p.index_id = i.index_id
JOIN sys.partition_functions pf ON ps.function_id = pf.function_id
LEFT JOIN sys.Partition_Range_values v ON pf.function_id = v.function_id AND v.boundary_id = p.partition_number - pf.boundary_value_on_right
WHERE i.object_id = object_id(@TableName)--当前表
AND pf.name=@partition_function--当前分区函数
AND ps.name=@partition_schemes--当前分区架构
AND pf.boundary_value_on_right=1--RANGE RIGHT
)
INSERT INTO @P_table
SELECT
partition_number
,filegroup
,case when Partition_number=1 then (SELECT top 1 DATEADD(D,-1,range_boundary) FROM CTE where Partition_number=2) else  range_boundary end range_boundary
,rows
FROM CTE B
WHERE NOT EXISTS (SELECT TOP 1 1 FROM CTE WHERE rows=0 AND Partition_number=1 AND Partition_number=B.partition_number)--若第一个分区的数据为0则删除该分区不再处理

/*end获取所有相关分区信息*/

SELECT @MAXPartition_number=MAX(Partition_number),@MINPartition_number=MIN(Partition_number)
FROM @P_table
WHERE  range_boundary<=‘2015-02-07 00:00:00.000‘ --CONVERT(VARCHAR(24),DATEADD(MM,[email protected]_I,GETDATE()),23)--筛选当前所需要迁移的分区号

DECLARE @ErrorMsg VARCHAR(MAX)
DECLARE @range_boundary DATETIME--分区界限点
DECLARE @filegroup SYSNAME--文件组名称
DECLARE @rows BIGINT --当前行数

--获取当前最大分区和最小分区
WHILE @MINPartition_number<= @MAXPartition_number
BEGIN
    --存在当前分区
    IF EXISTS(SELECT TOP 1 1 FROM @P_table WHERE Partition_number=@MINPartition_number)
    BEGIN                      

        --获取分区时间和文件组
        SELECT @range_boundary=range_boundary,@filegroup=filegroup,@rows=rows
        FROM @P_table
        WHERE Partition_number=@MINPartition_number

        IF @rows<>0--只有在没有数据情况下,才需要切出
        BEGIN
            --拼写备份表名称
            BEGIN TRY
                --切出分区
                SET @CMD=‘ALTER TABLE [‘+@DBName+‘].[dbo].[‘+@TableName+‘] SWITCH PARTITION ‘+CONVERT(VARCHAR(30),@MINPartition_number)+‘ TO [‘+@DBName+‘].[dbo].[‘+@staging_tablename_bak+‘]  PARTITION ‘+CONVERT(VARCHAR(30),@MINPartition_number)
                exec (@CMD)

            END TRY
            BEGIN CATCH
                 SET @ErrorMsg=‘切出分区‘+CAST(@MINPartition_number AS varchar(20))+‘失败:‘+ERROR_MESSAGE()
                ;THROW 50000,@ErrorMsg,1
            END CATCH

            --迁移备份表数据
            EXECUTE [dbo].[spb_del_staging_partition]
               @dbname=@dbname
              ,@tablename=@tablename
              ,@staging_tablename_bak=@staging_tablename_bak
              ,@range_boundary=@range_boundary
              ,@rows=@rows
         END
        --合并分区脚本收集,若直接合并将影响后续迁移。
        IF @MINPartition_number>1     --RANGE RIGHT  第一个分区不能合并
        BEGIN
          SET @CMD_MERGE=@CMD_MERGE+CHAR(10)+‘ALTER PARTITION FUNCTION ‘+@partition_function+‘() MERGE RANGE (‘‘‘+CONVERT(VARCHAR(30),@range_boundary,120)+‘‘‘)‘
        END

    END
    SET @MINPartition_number=@MINPartition_number+1
END
BEGIN TRY
    exec (@CMD_MERGE)
END TRY
BEGIN CATCH
    SET @ErrorMsg=‘合并分区失败:‘+ERROR_MESSAGE()
    ;THROW 50000,@ErrorMsg,1
END CATCH

/*
1、要求将备份数据库设置为最大容量恢复模式
2、要求备份表与原表有相同的分区
3、每月生成一个备份表
EXEC spb_del_staging_partition
@dbname =‘PartionTest‘ --数据库名称
,@tablename =‘PartionTest01‘--原表名称
,@staging_tablename =‘staging_PartionTest01_20141211‘--切出的分区表名称
,@rows =2000--切出的分区行数
*/
alter PROC spb_del_staging_partition
@dbname VARCHAR(128) --数据库名称
,@tablename VARCHAR(128)
,@staging_tablename_bak VARCHAR(128)
,@range_boundary datetime
,@rows BIGINT
as

DECLARE @tablenameBAK VARCHAR(128)
DECLARE @dbnameBAK  VARCHAR(128)
DECLARE @ERRORMSG VARCHAR(MAX)
DECLARE @CMD VARCHAR(MAX)
DECLARE @ROWcount BIGINT
SET @tablenameBAK=@tablename+‘_‘+CONVERT(varchar(6),@range_boundary,112)
SET @dbnameBAK=@dbname+‘bak‘

DECLARE @CREATETABLE TABLE (Columnid INT ,Columnname VARCHAR(128),ColumnType VARCHAR(128),is_nullable BIT)

--若备份表不存在,则新建备份表(只获取表结构)
IF OBJECT_ID(‘‘+@dbnameBAK+‘.dbo.‘+@tablenameBAK+‘‘) IS  NULL
BEGIN
  SET @CMD=‘
  use [‘+@dbname+‘]
  SELECT ‘‘Columnid‘‘     = c.column_id ,
         ‘‘Columnname‘‘     = c.name COLLATE Chinese_PRC_CI_AS,
         ‘‘ColumnType‘‘           = CASE
                              WHEN t.system_type_id IN (175,167) THEN t.name + ‘‘(‘‘ + CASE
                                                                                       WHEN c.max_length = -1 THEN ‘‘max‘‘
                                                                                       ELSE CAST(c.max_length AS VARCHAR(10))
                                                                                     END + ‘‘)‘‘ COLLATE Chinese_PRC_CI_AS
                              WHEN t.system_type_id IN (231,239) THEN t.name + ‘‘(‘‘ + CASE
                                                                                       WHEN c.max_length = -1 THEN ‘‘max‘‘
                                                                                       ELSE CAST(c.max_length / 2 AS VARCHAR(10))
                                                                                     END + ‘‘)‘‘ COLLATE Chinese_PRC_CI_AS
                              WHEN t.system_type_id IN (106,108) THEN t.name + ‘‘(‘‘ + CAST(Columnproperty(o.object_id,c.name,‘‘PRECISION‘‘) AS VARCHAR(10)) + ‘‘,‘‘ + CAST(Columnproperty(o.object_id,c.name,‘‘Scale‘‘) AS VARCHAR(10)) + ‘‘)‘‘ COLLATE Chinese_PRC_CI_AS
                              ELSE t.name COLLATE Chinese_PRC_CI_AS
                              END,
         ‘‘is_nullable‘‘   = c.is_nullable

  FROM   [‘+@dbname+‘].sys.objects o
         JOIN [‘+@dbname+‘].sys.columns c
           ON o.object_id = c.object_id
         JOIN [‘+@dbname+‘].sys.types t
           ON c.user_type_id = t.user_type_id
  WHERE  o.TYPE = ‘‘U‘‘
          And o.name = ‘‘‘+@tablename+‘‘‘‘

  INSERT INTO @CREATETABLE
  EXEC (@CMD)

  IF NOT EXISTS(SELECT TOP 1 1 FROM @CREATETABLE)
  BEGIN
    ;THROW 50000,‘该表不存在‘,1
  END
  SET @CMD=‘‘
  SELECT @CMD=@CMD+‘,[‘+Columnname+‘] [‘+ColumnType+‘] ‘+CASE WHEN is_nullable=1 THEN ‘NULL‘ WHEN is_nullable=0 THEN ‘NOT NULL‘ ELSE ‘‘ END+CHAR(10)
  FROM   @CREATETABLE
  ORDER BY Columnid

  SET @CMD=‘CREATE TABLE [‘+@dbnameBAK+‘].[dbo].[‘+@tablenameBAK+‘](‘+CHAR(10)+stuff(@CMD,1,1,‘‘)+‘)‘
  EXEC (@CMD)

END 

--导入备份数据
SET @CMD=‘INSERT INTO ‘+@dbnameBAK+‘.dbo.‘+@tablenameBAK
+CHAR(10)+‘SELECT * FROM ‘+@dbname+‘.dbo.‘+@staging_tablename_bak

BEGIN TRY
  --执行导入
  EXEC (@CMD)
  --记录导入行数
  SET @ROWcount=@@ROWCOUNT
END TRY
BEGIN CATCH
  SET @ERRORMSG=@dbname+‘.dbo.‘+@staging_tablename_bak+‘导入备份表失败:‘+ERROR_MESSAGE()
  IF @@TRANCOUNT >0
  BEGIN
    ROLLBACK
  END
  ;THROW 50000,@ERRORMSG,1
END CATCH

--删除切出的备份表
IF @ROWcount<>@rows
 BEGIN
   SET @ERRORMSG=@dbname+‘.dbo.‘+@staging_tablename_bak+‘导入备份表的数据行:‘+cast(@ROWcount as varchar(20)) +‘;实际要求行数:‘+cast(@rows as varchar(20))
    ;THROW 50000,@ERRORMSG,1
 END
 ELSE
 BEGIN
  SET @CMD=‘TRUNCATE TABLE ‘+@dbname+‘.dbo.‘+@staging_tablename_bak
  EXEC(@CMD)
 END

RETURN 0
GO

六、每天归档三个月前的分区(作业)

  1. 固定12个月的文件和文件组。将每年当月的数据存放到当月文件内。
  2. 提前添加30分区,避免拆分分区造成大量io消耗。
  3. Staging表要求与源表相同分区方式。Staging表只能有表结构和聚集索引。
  4. 备份库建议调整为大容量日志恢复模式。备份表按月重新生成。
  5. 由于RANGE RIGHT 的日期模式,01分区不用合并。
  6. 此架构只适合RANGE RIGHT 的日期模式增长模式。
时间: 2024-10-07 04:44:12

(五)Sql server分区自动化案例的相关文章

sql server 分区

 一.分区发展历程      基于表的分区功能为简化分区表的创建和维护过程提供了灵活性和更好的性能.追溯到逻辑分区表和手动分区表的功能. 二.为什么要进行分区 为了改善大型表以及具有各种访问模式的表的可伸缩性和可管理性. 大型表除了大小以数百 GB 计算,甚至以 TB 计算的指标外,还可以是无法按照预期方式运行的数据表,运行成本或维护成本超出预定要求.例如发生性能问题.阻塞问题.备份. 三.创建分区实现 在test库 添加四个文件组 1 --第一步:创建四个文件组 2 alter databas

sql server 分区(上)

原文:sql server 分区(上) 分区发展历程      基于表的分区功能为简化分区表的创建和维护过程提供了灵活性和更好的性能.追溯到逻辑分区表和手动分区表的功能. 二.为什么要进行分区 为了改善大型表以及具有各种访问模式的表的可伸缩性和可管理性. 大型表除了大小以数百 GB 计算,甚至以 TB 计算的指标外,还可以是无法按照预期方式运行的数据表,运行成本或维护成本超出预定要求.例如发生性能问题.阻塞问题.备份. 三. 分区的概念 分区范围 分区范围是指在要分区的表中,根据业务选择表中的关

SQL Server分区详解

一.SQL Server分区介绍 在SQL Server中,数据库的所有表和索引都视为已分区表和索引,默认这些表和索引值包含一个分区:也就是说表或索引至少包含一个分区.SQL Server中数据是按水平方式分区,是多行数据映射到单个分区.已经分区的表或者索引,在执行查询或者更新时,将被看作为单个逻辑实体,简单说来利用分区将一个表数据分多个表来存储,对于大数据量的表,将表分成多块查询,若只查询某个分区数据将降低消耗提高效率.需要注意的是单个索引或者表的分区必须位于一个数据库中. 在使用大量数据管理

SQL Server分区详解Partition

一.SQL Server分区介绍 在SQL Server中,数据库的所有表和索引都视为已分区表和索引,默认这些表和索引值包含一个分区:也就是说表或索引至少包含一个分区. SQL Server中数据是按水平方式分区,是多行数据映射到单个分区.已经分区的表或者索引,在执行查询或者更新时,将被看作为单个逻辑实体: 简单说来利用分区将一个表数据分多个表来存储,对于大数据量的表,将表分成多块查询,若只查询某个分区数据将降低消耗提高效率.需要注意的是单个索引或者表的分区必须位于一个数据库中. 在使用大量数据

SQL SERVER分区具体例子详解

在日常工作中,我们会遇到以下的情况,一个表每日数万级的增长,而查询的数据通常是在本月或今年,以前的数据偶尔会用到,但查询和插入的效率越来越慢,用数据库分区会有助于解决这个问题.关于分区的理论知识网上很多我这里就不在累赘,我从一个实际例子出发,看如何将一个已经运行了很长时间的普通表进行分区. 回到目录 提出问题 需解决问题:有一个数据表数据很大,我们通常的查询是在一个季度中.我们需要将以往年份的数据按不同年份存在文件组里,当年的数据分为4个季度存,如果到了新的一年,将之前4个季度的合并到一年中,新

(二)SQL Server分区创建过程

虽然分区有很多好处(一)SQL Server分区详解Partition,却不能随意使用:且不说分区管理的繁琐,只是跨分区带来的负面影响就需要我们好好分析是否有必要使用分区.一般分区创建的业务特点:用于统计.历史数据少使用.数据自增长.可能数据冗余大.数据量庞大插入量大.在确定是否合适使用分区前,需了解分区是如何创建的,分区的创建包括: 1.新建分区函数 2.新建文件和文件组 3.新建分区架构 4.新建分区表或者分区索引 如下图所示:分区函数定义了分区的具体方式,分区架构使用分区函数和文件组,确定

SQL Server 连接问题案例解析(1)

SQL Server 连接问题案例解析(1) 转载自:http://blogs.msdn.com/b/apgcdsd/archive/2015/04/27/sql.aspx?CommentPosted=true#commentmessage Microsoft Network Monitor(Netmon)是由微软发布的一款网络协议数据分析工具,利用Netmon可以捕获网络数据并进行查看和分析. 在处理SQL Server 的连接问题时,Netmon常常会起到关键的作用.在本篇博文中,我将为大家

Sql Server 分区演练 【转】

Sql Server 分区演练 [转] 代码加注释,希望对初学者有用. USE [master]GOif exists (select * from sys.databases where name = 'Test_1')drop database Test_1GO--创建新库,要演练分区所以我们会多创建两个文件组Test_A,Test_B,以便在后面的分区方案中使用.CREATE DATABASE [Test_1] ON  PRIMARY ( NAME = N'test_1', FILENAM

SQL Server分区键列必须是主键一部分

SQL Server分区键列必须是主键一部分. 必须把分区列包含在主键/唯一约束/唯一索引的键列中. USE tempdb GO -- 测试表 CREATE TABLE dbo.tb( id int, CONSTRAINT PK_id PRIMARY KEY CLUSTERED( id) ) INSERT dbo.tb SELECT 1 UNION ALL SELECT 10 GO -- 切换为分区表 -- 分区函数 CREATE PARTITION FUNCTION PF_test(int)