自动管理分区

表分区的一个好处:能够避免Deadlock,分区之间是相互独立的,对一个分区加X锁,不会对其他分区产生contention。

在项目中,有如下 Partition Function 和 Partition Scheme

CREATE PARTITION FUNCTION [funcPartition_int_DataSourceID](int) 
AS RANGE LEFT FOR VALUES (1, 2, 3)CREATE PARTITION SCHEME [schePartition_int_DataSourceID] AS PARTITION [funcPartition_DataSourceID] TO ([PRIMARY], [PRIMARY], [PRIMARY], [PRIMARY])create table dbo.dt_test
(
...More column definition

DataSourceID int)on [schePartition_int_DataSourceID](DataSourceID)

查看ETL的execution log,有时会发现 Deadlock Issue,对相关package Troubleshooting发现,发生deadlock的root cause是:同时更新表的两条语句产生contention,导致deadlock。仔细check代码,更新的两条查询语句都使用Partition Column(DataSourceID) 作为过滤条件。我推测,可能是这两个DataSourceID位于同一个Partition。

1,验证boundary value

select prv.function_id,pf.name,pf.boundary_value_on_right,prv.value as BoundaryValuefrom sys.partition_range_values prvinner join sys.partition_functions pf    on prv.function_id=pf.function_idwhere pf.name=‘funcPartition_int_DataSourceID‘

BoundaryValue的值小于当前 DataSourceID的最大值,产生 contention的两个DataSourceID 在最右边的partition中。

随着项目数据的增加和人员的更替,缺少合理的管理计划,导致额外增加的DataSourceID都被分配到同一个partition中。
2,创建Job,自动分区

最佳实践,如果一个partition是non-empty,那么split range会导致data movement,这可能是一个非常耗费IO的一个process,为了避免extensive data movement,最好是预留一个empty partition,每次都从empty partition 中split range。

use db_studygodeclare @CurrentMaxBoundaryValue intdeclare @ExistingMaxDataSourceID intdeclare @BoudaryValue intselect @ExistingMaxDataSourceID = max(dds.DataSourceID)from dbo.dt_DataSource dds with(nolock)select @CurrentMaxBoundaryValue= max(cast(prv.value as int))from sys.partition_functions pf 
inner join sys.partition_range_values prv    on pf.function_id=prv.function_idwhere pf.name=‘funcPartition_int_DataSourceID‘-- add new boundary valueif @CurrentMaxBoundaryValue<@ExistingMaxDataSourceID+1begin
    set @[email protected]+1

    DECLARE @SQL NVARCHAR(MAX)=N‘ALTER PARTITION SCHEME [schePartition_int_DataSourceID]
NEXT USED [PRIMARY]
ALTER PARTITION FUNCTION [funcPartition_int_DataSourceID]()
SPLIT RANGE (‘
    declare @ExecSql nvarchar(max)    set @ExecSql=‘‘

    while @BoudaryValue<[email protected]+1
    BEGIN
        
        SELECT @ExecSql = @SQL+ cast(@BoudaryValue as varchar(10))+ N‘)‘
        EXEC(@ExecSql)        set @[email protected]+1
    endend

本例将分区全部存放在Primary FileGroup, 如果需要将不同的Partition存储在不同的FileGroup,那么可以增加Create filegroup的代码。

3,在Job执行时,Issue an error

Executed as user: NT SERVICE\SQLSERVERAGENT. UNKNOWN TOKEN failed because the following SET options have incorrect settings: ‘QUOTED_IDENTIFIER‘. Verify that SET options are correct for use with indexed views and/or indexes on computed columns and/or filtered indexes and/or query notifications and/or XML data type methods and/or spatial index operations. [SQLSTATE 42000] (Error 1934).  The step failed.

QUOTED_IDENTIFIER设置错误,添加下面的script,即可

SET QUOTED_IDENTIFIER  ON

参考:SET QUOTED_IDENTIFIER (Transact-SQL)

  1. SET QUOTED_IDENTIFIER must be ON when you are creating or changing indexes on computed columns or indexed views. If SET QUOTED_IDENTIFIER is OFF, CREATE, UPDATE, INSERT, and DELETE statements on tables with indexes on computed columns or indexed views will fail.
  2. SET QUOTED_IDENTIFIER must be ON when you are creating a filtered index.
  3. SET QUOTED_IDENTIFIER must be ON when you invoke XML data type methods.
时间: 2024-10-05 05:32:17

自动管理分区的相关文章

linux 磁盘管理四部曲——(2)管理分区,文件系统类型格式化

上篇小编给大家讲解了磁盘结构和分区的介绍,这篇小编就给大家演示如何管理分区和文件系统类型格式化. 小编上篇已经提到如何使用磁盘,今天这两步,就是其中很重要的两步. 一.管理分区   列出块设备 lsblk     fdisk -l /dev/sda     cat /proc/partitions 创建分区使用的命令: (1) fdisk  创建MBR 分区(7里也可以创建GPT 分区,但不推荐,contos 6 -l 时候gpt多个分区只显示1个) (2) gdisk  创建GPT 分区(用法

linux 磁盘管理三部曲——(2)管理分区,文件系统类型格式化

上篇小编给大家讲解了磁盘结构和分区的介绍,这篇小编就给大家演示如何管理分区和文件系统类型格式化. 小编上篇已经提到如何使用磁盘,今天这两步,就是其中很重要的两步.(前几天写的有点急,有点乱,今天又整理了下) 一.管理分区   列出块设备 lsblk     fdisk -l /dev/sda     cat /proc/partitions 创建分区使用的命令: (1) fdisk  创建MBR 分区(7里也可以创建GPT 分区,但不推荐,contos 6 -l 时候gpt多个分区只显示1个)

内存自动管理

内存自动管理    20 内存模型    20 Jvm垃圾收集算法    22 标记-清除    22 标记-整理    22 复制算法    22 分代思想    23 Stop-The-World    23 java堆溢出:    24 方法区和运行时常量池溢出    27 本机直接内存溢出    29 垃圾收集器    30 引用计数器:    30 可达性分析算法    31 回收方法区    32 垃圾收集器    33 HotSpot垃圾回收器    33 l CMS Failur

Grunt:任务自动管理工具(收藏+转载)

原文:http://javascript.ruanyifeng.com/tool/grunt.html 安装 命令脚本文件Gruntfile.js Gruntfile.js实例:grunt-contrib-cssmin模块 常用模块设置 grunt-contrib-jshint grunt-contrib-concat grunt-contrib-uglify grunt-contrib-copy grunt-contrib-watch 其他模块 参考链接 在Javascript的开发过程中,经

C++实现简单的内存块自动管理

#ifndef __MEM__H #define __MEM__H #include<iostream> using namespace std; //自动管理内存块 typedef unsigned char byte; class Mem { private: byte* mem; int size; void ensureMinSize(int minSize); public: Mem(); Mem(int sz); ~Mem(); int msize(); //byte* point

Senparc.Weixin.MP SDK 微信公众平台开发教程(十六):AccessToken自动管理机制

Senparc.Weixin.MP SDK 微信公众平台开发教程(十六):AccessToken自动管理机制 在<Senparc.Weixin.MP SDK 微信公众平台开发教程(八):通用接口说明>中,我介绍了获取AccessToken(通用接口)的方法. 在实际的开发过程中,所有的高级接口都需要提供AccessToken,因此我们每次在调用高级接口之前,都需要执行一次获取AccessToken的方法,例如: 1 var accessToken = AccessTokenContainer.

etcd+confd实现Nginx配置文件自动管理

一.需求 我们使用Nginx做七层负载均衡,后端是Tomcat.项目采用灰度发布方式,每次项目升级,都要手动先从Nginx下摘掉一组,然后再升级这组,当项目快速迭代时,手动做这些操作显然会增加部署时间,于是就想通过脚本实现自动化管理Nginx配置文件. 当时考虑自己写Shell脚本对Nginx配置文件操作,需要用到sed流编辑器,sed本身没有条件判断语句,并不能灵活判断配置文件中要添加/删除位置,因此会增加配置错误风险. 在查资料无意间发现confd能自动管理配置文件,通过模板渲染生成配置文件

谢烟客---------Linux之磁盘管理,分区

框架 IO事件 io port 硬件接口速率 虚拟扇区 mbr分区方式 分区编号 fdisk,parted,sfdisk命令 cat /proc/partitions partx,partprobe,kpartx命令 一.硬件 cpu(运算器.控制器), 内存,硬盘(U盘).网络设备,键盘.鼠标.显示器 1)cpu cpu的个数并非越多越好,1个和尚挑水喝,2个和尚抬水喝,为什么3个和尚没水喝?_,cpu内控制器用于完成硬件的控制,多个cpu时,可能会发生硬件资源争用,需要通过内核和硬件体系自身

Ubuntu开机自动挂载分区

首先,查看系统的磁盘代号: fdisk -l Disk /dev/sda: 120.0 GB, 120034123776 bytes 255 heads, 63 sectors/track, 14593 cylinders, total 234441648 sectors Units = 扇区 of 1 * 512 = 512 bytes Sector size (logical/physical): 512 bytes / 512 bytes I/O size (minimum/optimal