SQL Server 参数嗅探问题

本文非原创,来源于网络,作为记录为以后查看

http://mysql.taobao.org/monthly/2016/10/10/

摘要

MSSQL Server参数嗅探既是一个涉及知识面非常广泛,又是一个比较难于解决的课题,即使对于数据库老手也是一个比较头痛的问题。这篇文章从参数嗅探是什么,如何产生,表象是什么,会带来哪些问题,如何解决这五个方面来探讨参数嗅探的来龙去脉,期望能够将SQL Server参数嗅探问题理清楚,道明白。

什么参数嗅探

当SQL Server第一次执行查询语句或存储过程(或者查询语句与存储过程被强制重新编译)的时候,SQL Server会有一个进程来评估传入的参数,并根据传入的参数生成对应的执行计划缓存,然后参数的值会伴随查询语句或存储过程执行计划一并保存在执行计划缓存里。这个评估的过程就叫做参数嗅探。

参数嗅探是如何产生的

SQL Server对查询语句编译和缓存机制是SQL语句执行过程中非常重要的环节,也是SQLOS内存管理非常重要的一环。理由是SQL Server对查询语句编译过程是非常消耗系统性能,代价昂贵的。因为它需要从成百上千条执行路径中选择一条最优的执行计划方案。所以,查询语句可以重用执行计划的缓存,避免重复编译,以此来节约系统开销。这种编译查询语句,选择最优执行方案,缓存执行计划的机制就是参数嗅探问题产生的理论基础。

参数嗅探的表象

以上是比较枯燥的理论解释,这里我们来看看两个实际的例子。在此,我们以AdventureWorks2008R2数据库中的Sales.SalesOrderDetail表做为我们测试的数据源,我们挑选其中三个典型的产品,ProductID分别为897,945和870,分别对应的订单总数为2,257和4688。
挑选的方法如下:

use AdventureWorks2008R2
GO

;WITH DATA
AS(
select ProductID, COUNT(1) as order_count, rowid = ROW_NUMBER() OVER(ORDER BY COUNT(1) asc)
from Sales.SalesOrderDetail with(nolock)
group by ProductID
)
SELECT *
FROM DATA
WHERE rowid in (1, 266, 133)

得到如下结果:

查询语句的参数嗅探表象

接下来,我们看三个非常相似的查询语句(仅传入的参数值不同)的执行计划有什么差异。
三个查询语句:

use AdventureWorks2008R2
GO
SELECT SalesOrderDetailID, OrderQty
FROM Sales.SalesOrderDetail WITH(NOLOCK)
WHERE ProductID = 897;

SELECT SalesOrderDetailID, OrderQty
FROM Sales.SalesOrderDetail WITH(NOLOCK)
WHERE ProductID = 945;

SELECT SalesOrderDetailID, OrderQty
FROM Sales.SalesOrderDetail WITH(NOLOCK)
WHERE ProductID = 870;

分别的执行计划:

从这个执行计划对比来看,ProductID为945和897的两条语句执行计划一致,因为满足条件的记录数非常少,分别为257条和2条,所以SQL Server均选择走最优执行计划Index Seek + Key Lookup。但是与ProductID为870的查询语句执行计划完全不同,这条语句SQL Server选择走的是Clustered Index Scan,几乎等价于Table Scan的性能消耗。这是因为,SQL Server认为满足条件ProductID = 870的记录数太多,达到了4688条记录,与其走Index Seek + Key Lookup,还不如走Clustered Index Scan顺序IO的效率高。从这里可以看出,SQL Server会因为传入参数值的不同而选择走不同的执行计划,执行效率也大不相同。确切的说,这个就是属于查询语句的参数嗅探问题范畴。

存储过程的参数嗅探表象

上一小节,我们看了查询语句的参数嗅探表象,这一小节我们来看看存储过程参数嗅探的表象又是如何的呢?
首先,我们创建如下存储过程:

USE AdventureWorks2008R2
GO
CREATE PROCEDURE UP_GetOrderIDAndOrderQtyByProductID(
@ProductID INT
)
AS
BEGIN
    SET NOCOUNT ON
    SELECT
    	SalesOrderDetailID
		, OrderQty
	FROM Sales.SalesOrderDetail WITH(NOLOCK)
	WHERE ProductID = @ProductID;
END
GO

接下来,我们执行两次这个存储过程,传入不同的参数:

EXEC dbo.UP_GetOrderIDAndOrderQtyByProductID 870
EXEC dbo.UP_GetOrderIDAndOrderQtyByProductID 945

从这个执行计划来看,ProductID为870和945走的相同的执行计划Clustered Index Scan,这个和上一小节得到的结果是不一样的。上一节中ProductID = 945的查询语句执行计划走的是Index Seek + Key Lookup。

当我们选择第二个执行计划的Clustered Index Scan的时候,我们观察Properties中的Estimated Number of Rows,这里显示的是4668,但实际上正确得行数应该是257。如下如所示:

这到底是为什么呢?从另外一个角度来讲,这个不正确的统计估值甚至会导致SQL Server走到一个不是最优的执行计划上来(根据上一小节,ProductID = 945的最优执行计划其实是Index Seek + Key Lookup)。
答案其实就是存储过程的参数嗅探问题。这是因为,我们在首次执行这个存储过程的时候,传入的参数ProductID = 870对应的订单总数为4668,SQL Server在编译,缓存执行计划的时候,连同这个值一起记录到执行计划缓存中了。从而影响到存储过程的第二次及以后的执行计划方案,进而影响到存储过程的执行效率。
我们可以通过如下方法来查看执行计划中传入参数的值,右键 => Show Execution Plan XML => 搜索 ParameterCompiledValue

在此例中,我们很清楚的发现传入参数值是870,同时也很清楚得看到了参数嗅探对于执行计划的影响:

...
<ColumnReference Column="@ProductID" ParameterCompiledValue="(870)" ParameterRuntimeValue="(870)" />
...

至此,我们分别从查询语句和存储过程两个方便看到了参数嗅探的表象。

参数嗅探导致的问题

从参数嗅探的表象这一章节,我们可以对此参数嗅探的问题窥探一二。但是,参数嗅探可能会导致哪些常见的问题呢?根据我们的经验,如果你遭遇了MSSQL Server以下奇怪问题,你可能就遇到参数嗅探这个“大魔头”了。

ALTER PROCEDURE解决性能问题

某些传入参数导致存储过程执行非常缓慢,但是ALTER PROCDURE(所有代码没做任何改动)后,性能恢复正常。这个场景是我们之前经常遇到的,原因是当你ALTER PROCEDURE后,MSSQL Server会主动清除对应的存储过程执行计划缓存,然后再次执行该存储过程的时候,系统会重新编译并缓存该存储过程执行计划。

相同的存储过程,相同的传入参数,执行时快时慢

这个听起来非常奇怪吧,当我们执行相同的存储过程,传入相同的参数值,但是执行效率时快时慢,请注意下面例子中的注释部分。

USE AdventureWorks2008R2
GO
--SQL Server 创建执行计划,优化ProductID = 870对应的大量订单量,运行时间500毫秒
EXEC dbo.UP_GetOrderIDAndOrderQtyByProductID 870

--SQL Server直接获取缓存中的执行计划,对于小量订单来说可能不是最好的执行计划,不过没关系,执行时间450毫秒
EXEC dbo.UP_GetOrderIDAndOrderQtyByProductID 945

现在我们清空了执行计划缓存,为了方便,我直接清除所有的执行计划缓存。

DBCC FREEPROCCACHE

再次执行存储过程,这次我们交换了执行顺序,先执行ProductID 945,然后执行ProductID 870。

USE AdventureWorks2008R2
GO
--SQL Server 创建执行计划,优化ProductID = 945,对应于小量订单的最优执行计划,运行时间100毫秒
EXEC dbo.UP_GetOrderIDAndOrderQtyByProductID 945

--SQL Server直接获取缓存中的执行计划,对于大量订单的ProductID 870来说,可能是很差的执行计划,执行时间60秒
EXEC dbo.UP_GetOrderIDAndOrderQtyByProductID 870

从这两个批次执行的时间对比来看,ProductID 945和870执行时间有比较大的差异,特别是ProductID = 870。这种相同的存储过程,相同的传入参数,执行时快时慢的问题,也是由于参数嗅探导致的。
注意:这里只是为了描述这种现象,由于表数据量本来不大的原因,可能实际上执行时间可能没有那么大的差异。

查询语句放在存储过程中和单独执行效率差异大

某一个查询语句,放在存储过程中执行和拿出来单独执行,时间消耗差异大,一般情况是拿出来单独执行的语句很快,放到存储过程中执行很慢。这个情况也是我们在产品环境常见的一种典型参数嗅探导致的问题。

参数嗅探的解决方法

上一节,我们探讨了参数嗅探可能会导致的问题。当发现这些问题的时候,我们来看看两类人的不同解决方法。请允许我将这两类人分别命名为菜鸟和老鸟,没有任何歧视,只是一个名字代号而已。

菜鸟的解决方法

菜鸟的理论很简单粗暴,既然参数嗅探是因为查询语句或者存储过程的执行计划缓存导致,那么我只需要清空内存就可以解决这个问题了嘛。嗯,来看看菜鸟很傻很天真的做法吧。

  • 方法一:重启Windows OS。果然很黄很暴力,重启Windows操作系统,彻底清空Windows所有内存内容。
  • 方法二:重启SQL Server Service。稍微温柔一点点啦,重启SQL Server Service,彻底清空SQL Server占用的所有内存,当然执行计划缓存也被清空了。
  • 方法三:DBCC命令清空SQL Server执行计划缓存。又温柔了不少吧,彻底清空了SQL Server所有的执行计划缓存,包含有问题的和没有问题的缓存。
DBCC FREEPROCCACHE

老鸟的解决方法

当菜鸟还在为自己的解决方法解决了参数嗅探问题而沾沾自喜的时候,老鸟的思维已经走得很远很远了,老鸟就是老鸟,是菜鸟所望尘莫及的。老鸟的思维逻辑其实也很简单,既然是某个或者某些查询语句或存储过程的执行计划缓存有问题,那么,我们只需要重新编译缓存这些害群之马就好了。

  • 方法一:创建存储过程使用WITH RECOMPILE
USE AdventureWorks2008R2
GO
ALTER PROCEDURE dbo.UP_GetOrderIDAndOrderQtyByProductID(
@ProductID INT
)
WITH RECOMPILE
AS
BEGIN
	SET NOCOUNT ON
	SELECT
		SalesOrderDetailID
		, OrderQty
	FROM Sales.SalesOrderDetail WITH(NOLOCK)
	WHERE ProductID = @ProductID;
END
GO

再重新执行两次存储过程,传入不同的参数值,我们可以看到均走到最优的执行计划上来了,说明参数嗅探的问题已经解决。这个方法带来的一个问题就是每次执行这个存储过程系统都会重新编译,无法使用执行计划缓存。但是相对来说,重新编译的系统开销要远远小于参数嗅探导致的系统性能消耗,所以,两害取其轻。

  • 方法二:查询语句使用Query Hits

如果我们知道ProductID对应的订单总数分布,认为ProductID = 945为最好的执行计划,那么我们可以强制SQL Server按照参数输入945来执行存储过程,我们可以添加Query Hits来实现。这种方法的难点在于对表中数据分布有着精细的认识,可操作性不强,因为表中数据分布是随时在改变的。

USE AdventureWorks2008R2
GO
ALTER PROCEDURE dbo.UP_GetOrderIDAndOrderQtyByProductID(
@ProductID INT
)
AS
BEGIN
	SET NOCOUNT ON
	SELECT
		SalesOrderDetailID
		, OrderQty
	FROM Sales.SalesOrderDetail WITH(NOLOCK)
	WHERE ProductID = @ProductID
	--OPTION (RECOMPILE);
	OPTION (OPTIMIZE FOR (@ProductID=945));
	--OPTION (OPTIMIZE FOR (@ProductID UNKNOWN));
END
GO
  • 方法三:DBCC清除特定语句或存储过程缓存

当清除执行计划缓存后,SQL Server再次执行会重新编译对应语句或者存储过程,以获得最好的执行计划。在此以清除特定存储过程执行计划缓存为例。

USE AdventureWorks2008R2
GO

declare
      @plan_id varbinary(64)
;

SELECT TOP 1 @plan_id = cache.plan_handle
FROM sys.dm_exec_cached_plans cache
CROSS APPLY sys.dm_exec_query_plan(cache.plan_handle) AS pla
CROSS APPLY sys.dm_exec_sql_text(cache.plan_handle) AS txt
WHERE pla.objectid  = object_id(N‘UP_GetOrderIDAndOrderQtyByProductID‘,‘P‘)
and  txt.objectid  = object_id(N‘UP_GetOrderIDAndOrderQtyByProductID‘,‘P‘)

DBCC FREEPROCCACHE (@plan_id);
GO
  • 方法四:更新表对象统计信息

表统计信息过时导致执行计划评估不准确,进而影响查询语句执行效率。这个也是导致参数嗅探问题另一个重要原因。这种情况,我们只需要手动更新表统计信息。这个解决方法的难点在于找到有问题的查询语句和对应有问题的表。统计信息更新方法如下,如果发现StatsUpdated时间太过久远就应该是被怀疑的对象:

USE AdventureWorks2008R2
GO
UPDATE STATISTICS Sales.SalesOrderDetail WITH FULLSCAN;

SELECT
	name AS index_name
	, STATS_DATE(OBJECT_ID, index_id) AS StatsUpdated
FROM sys.indexes
WHERE OBJECT_ID = OBJECT_ID(‘Sales.SalesOrderDetail‘)
GO
  • 方法五:重整表对象索引

另外一个导致执行计划评估不准确的重要原因是索引碎片过高(超过30%),这个也会导致参数嗅探问题的重要原因。这种情况我们需要手动重整索引碎片,方法如下:

USE AdventureWorks2008R2
GO
select
		DB_NAME = DB_NAME(database_id)
		,SCHEMA_NAME = SCHEMA_NAME(schema_id)
		,OBJECT_NAME = tb.name
		,ix.name
		,avg_fragmentation_in_percent
from sys.dm_db_index_physical_stats(db_id(),object_id(‘Sales.SalesOrderDetail‘,‘U‘),NULL,NULL,‘LIMITED‘) AS fra
	CROSS APPLY sys.indexes AS ix WITH (NOLOCK)
	INNER JOIN sys.tables as tb WITH(NOLOCK)
	ON ix.object_id = tb.object_id
WHERE ix.object_id = fra.object_id
	and ix.index_id = fra.index_id

USE AdventureWorks2008R2
GO
ALTER INDEX PK_SalesOrderDetail_SalesOrderID_SalesOrderDetailID
ON Sales.SalesOrderDetail REBUILD;
  • 方法六:创建缺失的索引

还有一个重要的导致执行计划评估不准确的因素是表缺失索引,这个也是会导致参数嗅探的问题。查找缺失索引的方法如下:

USE AdventureWorks2008R2
GO
SELECT TOP 10
	database_name = db_name(details.database_id)
	, schema_name = SCHEMA_NAME(tb.schema_id)
	, object_name = tb.name
	, avg_estimated_impact = dm_migs.avg_user_impact*(dm_migs.user_seeks+dm_migs.user_scans)
	, last_user_seek = dm_migs.last_user_seek
	, create_index =
‘CREATE INDEX [IX_‘ + OBJECT_NAME(details.OBJECT_ID,details.database_id) + ‘_‘
+ REPLACE(REPLACE(REPLACE(ISNULL(details.equality_columns,‘‘),‘, ‘,‘_‘),‘[‘,‘‘),‘]‘,‘‘)
+ CASE
	WHEN details.equality_columns IS NOT NULL
	AND details.inequality_columns IS NOT NULL THEN ‘_‘
	ELSE ‘‘
	END
	+ REPLACE(REPLACE(REPLACE(ISNULL(details.inequality_columns,‘‘),‘, ‘,‘_‘),‘[‘,‘‘),‘]‘,‘‘)
	+ ‘]‘
	+ ‘ ON ‘ + details.statement
	+ ‘ (‘ + ISNULL (details.equality_columns,‘‘)
	+ CASE WHEN details.equality_columns IS NOT NULL AND details.inequality_columns
	IS NOT NULL THEN ‘,‘ ELSE
	‘‘ END
	+ ISNULL (details.inequality_columns, ‘‘)
	+ ‘)‘
	+ ISNULL (‘ INCLUDE (‘ + details.included_columns + ‘)‘, ‘‘)
FROM sys.dm_db_missing_index_groups AS dm_mig WITH(NOLOCK)
	INNER JOIN sys.dm_db_missing_index_group_stats AS dm_migs WITH(NOLOCK)
	ON dm_migs.group_handle = dm_mig.index_group_handle
	INNER JOIN sys.dm_db_missing_index_details AS details WITH(NOLOCK)
	ON dm_mig.index_handle = details.index_handle
	INNER JOIN sys.tables AS tb WITH(NOLOCK)
	ON details.object_id = tb.object_id
WHERE details.database_ID = DB_ID()
ORDER BY Avg_Estimated_Impact DESC
GO
  • 方法七:使用本地变量

这是一个非常奇怪的解决方法,使用这种方法的原因是,对于本地变量SQL Server使用统计密度来代替统计直方图,它会认为所有的本地变量均拥有相同的统计密度,即对应于相同的记录数。这样可以避免因为数据分布不均匀导致的参数嗅探问题。

USE AdventureWorks2008R2
GO
ALTER PROCEDURE dbo.UP_GetOrderIDAndOrderQtyByProductID(
@ProductID INT
)
AS
BEGIN
	SET NOCOUNT ON
	DECLARE
		@Local_ProductID INT
	;
	SET
		@Local_ProductID = @ProductID
	;

	SELECT
		SalesOrderDetailID
		, OrderQty
	FROM Sales.SalesOrderDetail WITH(NOLOCK)
	WHERE ProductID = @Local_ProductID
END
GO

至此结束,本节分享了菜鸟和老鸟关于参数嗅探问题的解决方法,我相信大家应该可以轻松的做出正确选择适合自己的解决方法。

补充说明

以上所有代码的测试环境是在MSSQL Server 2008R2 Enterprise中完成。

Microsoft SQL Server 2008 R2 (SP2) - 10.50.4000.0 (X64)   Jun 28 2012 08:36:30   Copyright 
时间: 2024-10-04 07:57:58

SQL Server 参数嗅探问题的相关文章

C#调用SQL Server参数过程传参

-SQL SERVER生成测试环境: Create database Test; go USE [Test] GO if OBJECT_ID('Tab2','U') is not null drop table Tab2 go CREATE TABLE [dbo].[Tab2]( [ID] [int] IDENTITY(1,1) NOT NULL, [TabID] [int] NOT NULL, [Name2] [nvarchar](50) NULL ) GO SET IDENTITY_INSE

SQL Server参数优化

内存参数: 此处为512G物理内存,一般来说设置为物理内存80%左右,设置过大资源不会自动释放,内存可能会持续增长:设置过小资源浪费. CPU参数: 最大工作线程数: 此处为4个CPU40核,调整后物理CPU占用能达到80%以上,SQLServer CPU占用可能会比较高. 原文地址:https://www.cnblogs.com/sonnyBag/p/11996876.html

理解性能的奥秘——应用程序中慢,SSMS中快(2)——SQL Server如何编译存储过程

接上文:理解性能的奥秘--应用程序中慢,SSMS中快(1)--简介 本文介绍SQL Server如何编译存储过程并使用计划缓存.如果你的应用程序完全没有用到存储过程,而是直接使用SQL语句提交请求,那么本文大部分内容也是有效的.但是关于动态SQL的编译会在后面章节介绍,这里重点关注让人头痛的存储过程问题. 什么是存储过程? 虽然这个问题有点愚蠢,但是实际的问题是:什么对象有自己的查询计划?SQL Server为下面四类对象创建查询计划: 存储过程. 标量用户自定义函数. 多步表值函数. 触发器

(4.13)参数嗅探

1 --参数嗅探 Parameter Sniffing 2013-2-8 2 3 --当使用存储过程的时候,总是要使用到一些变量.变量有两种,一种 4 --是在存储过程的外面定义的.当调用存储过程的时候,必须要给他代入 5 --值.这种变量,SQL在编译的时候知道他的值是多少. 6 7 --例如: 8 USE [AdventureWorks] 9 GO 10 DROP PROC Sniff 11 GO 12 CREATE PROC Sniff(@i INT) 13 AS 14 SELECT CO

Oracle导数据到SQL server的方法总结

通过oracle10g 访问sql server 2008 导数据步骤 最近在项目中遇到要将Oracle数据库的数据导入到SQL server数据库中,解决办法如下: 一.准备工作 配置Oracle 客户端(TNS 监听)tnsnames.ora 文件,其中需要注意文件中的数据库别名"ORADB",确保主机可以通过SQLPlus 访问远程Oracle 数据库.示例如下: ORADB= (DESCRIPTION = (ADDRESS = (PROTOCOL = TCP)(HOST =HO

SQL Server 查询优化(测试02)参数嗅探-执行计划选择

最近常看到"参数嗅探"这个词,看了几篇文章,于是就自己摸索做个测试来加深印象! 去官网下载了数据库:AdventureWorks2012 直接测试吧! 找几个熟悉的表关联起来,用ProductID作为条件找到两个ID返回行数相差较大的值. ProductID=870(4688行) ProductID=897(2行) [测试一] --先清空计划缓存 DBCC FREEPROCCACHE --执行前先打开计数器监控查看(分开执行以下查询) select sdh.SalesOrderID,s

qt调用sql server存储过程并获取output参数

最近新做的一个项目需要使用qt连接另一台机器上的sql server,虽然网上已有类似文章,但还是有些其中很少提及的问题,故在这里汇总下: qt连接sql server可以参考这篇文章,如果是连接另一台机器的sql server就不用执行第一步“开启ODBC驱动”了 http://www.cnblogs.com/shaolw/p/3411285.html 另外指定数据库用户名和密码可以使用Uid和Pwd,即原文dsn参数可以这样写: QString dsn = QString("Driver={

SQL Server 字符串 参数详解

1:Integrated Security参数     当设置Integrated Security为 True 的时候,连接语句前面的 UserID, PWD 是不起作用的,即采用windows身份验证模式.     只有设置为 False 或省略该项的时候,才按照 UserID, PWD 来连接.     Integrated Security 还可以设置为:sspi ,相当于 True,建议用这个代替 True. 2:参数Trusted_Connection     Trusted_Con

在JDBC中传递table参数给SQL server stored procedure

SQL Server JDBC驱动不支持直接传递Table参数给stored procedure 我的做法是先创建一个临时表,将需要插入的数据先插入到临时表里面,然后把这个临时表作为参数,传送给stored procedure.使用了Preparestatement来避免SQL注入问题. 先创建User Defined Table CREATE TYPE UserIdList AS TABLE( userId uniqueidentifier NOT NULL ); 再创建存储过程: CREAT