一、卡方分布
若k个独立的随机变量Z1,Z2,?,Zk,且符合标准正态分布N(0,1),则这k个随机变量的平方和,为服从自由度为k的卡方分布。
卡方分布之所以经常被利用到,是因为对符合正态分布的随机变量的处理过程中,很容易出现其平方和的统计量。
正如在卡方检验问题中出现这个统计量一样自然。
二、卡方检验
卡方检验主要用于,根据样本数据推断总体的分布与期望分布是否有显著性差异,或者推断两个分类变量是否相关或者独立。
样本数据推断的分布与理论分布的差值,如果只考虑随机取样误差影响,自然符合标准正态分布。而其平方和就属于卡方分布了。
其中,A为实际值,T为理论值。
χ2用于衡量实际值与理论值的差异程度,这也是卡方检验的核心思想。χ2包含了以下两个信息:
1.实际值与理论值偏差的绝对大小。
2.差异程度与理论值的相对大小。
三、卡方检验做特征选择
一个特征对分类变量的影响,如果特征对应的分类变量数量与理论值没什么区别,说明特征对分类变量没什么影响。而该特征对分类变量有明显影响,其对应分类变量数量应该与分类变量理论分布值有较大偏离。
所以可以说:卡方值越大,说明关联越强,特征越需要保留。卡方值越小,说明越不相关,特征需要去除。
原文地址:https://www.cnblogs.com/hugh-tan/p/8595683.html
时间: 2024-11-06 07:39:57