SPSS19.0实战之多元线性回归

线性回归数据来自于国泰安数据服务中心的经济研究数据库。网址:http://www.gtarsc.com/p/sq/。数据名称为:全国各地区能源消耗量与产量,该数据的年度标识为2006年,地区包括我国30个省,直辖市,自治区(西藏地区无数据)。

1.1 数据预处理

数据预处理包括的内容非常广泛,包括数据清理和描述性数据汇总,数据集成和变换,数据归约,数据离散化等。本次实习主要涉及的数据预处理只包括数据清理和描述性数据汇总。一般意义的数据预处理包括缺失值填写和噪声数据的处理。于此我们只对数据做缺失值填充,但是依然将其统称数据清理。

1.1.1 数据导入与定义

单击“打开数据文档”,将xls格式的全国各地区能源消耗量与产量的数据导入SPSS中,如图1-1所示。

                                                         图1-1 导入数据

导入过程中,各个字段的值都被转化为字符串型(String),我们需要手动将相应的字段转回数值型。单击菜单栏的“”-->“”将所选的变量改为数值型。如图1-2所示:

图1-2 定义变量数据类型

1.1.2 数据清理

数据清理包括缺失值的填写和还需要使用SPSS分析工具来检查各个变量的数据完整性。单击“”-->“”,将检查所输入的数据的缺失值个数以及百分比等。如图1-3所示:

图1-3缺失值分析

能源数据缺失值分析结果如表1-1所示:


单变量统计


N


均值


标准差


缺失


极值数目a


计数


百分比




能源消费总量


30


9638.50


6175.924


0


.0


0


1


煤炭消费量


30


9728.99


7472.259


0


.0


0


2


焦炭消费量


30


874.61


1053.008


0


.0


0


2


原油消费量


28


1177.51


1282.744


2


6.7


0


1


汽油消费量


30


230.05


170.270


0


.0


0


1


煤油消费量


28


45.40


66.189


2


6.7


0


4


柴油消费量


30


392.34


300.979


0


.0


0


2


燃料油消费量


30


141.00


313.467


0


.0


0


3


天然气消费量


30


19.56


22.044


0


.0


0


2


电力消费量


30


949.64


711.664


0


.0


0


3


原煤产量


26


9125.97


12180.689


4


13.3


0


2


焦炭产量


29


1026.49


1727.735


1


3.3


0


2


原油产量


18


1026.48


1231.724


12


40.0


0


0


燃料油产量


25


90.72


134.150


5


16.7


0


3


汽油产量


26


215.18


210.090


4


13.3


0


2


煤油产量


20


48.44


62.130


10


33.3


0


0


柴油产量


26


448.29


420.675


4


13.3


0


1


天然气产量


20


29.28


49.391


10


33.3


0


3


电力产量


30


954.74


675.230


0


.0


0


0


表2-1 能源消耗量与产量数据缺失值分析

表1-1 能源消耗量与产量数据缺失值分析

SPSS提供了填充缺失值的工具,点击菜单栏“”-->“”,即可以使用软件提供的几种填充缺失值工具,包括序列均值,临近点中值,临近点中位数等。结合本次实习数据的具体情况,我们不使用SPSS软件提供的替换缺失值工具,主要是手动将缺失值用零值来代替。

1.1.3 描述性数据汇总

描述性数据汇总技术用来获得数据的典型性质,我们关心数据的中心趋势和离中趋势,根据这些统计值,可以初步得到数据的噪声和离群点。中心趋势的量度值包括:均值(mean),中位数(median),众数(mode)等。离中趋势量度包括四分位数(quartiles),方差(variance)等。

SPSS提供了详尽的数据描述工具,单击菜单栏的“”-->“”-->“”,将弹出如图2-4所示的对话框,我们将所有变量都选取到,然后在选项中勾选上所希望描述的数据特征,包括均值,标准差,方差,最大最小值等。由于本次数据的单位不尽相同,我们需要将数据标准化,同时勾选上“将标准化得分另存为变量”。

图1-4 描述性数据汇总

得到如表1-2所示的描述性数据汇总。


N


极小值


极大值


均值


标准差


方差


能源消费总量


30


911


26164


9638.50


6175.924


38142034.412


煤炭消费量


30


332


29001


9728.99


7472.259


55834651.378


焦炭消费量


30


19


5461


874.61


1053.008


1108824.853


原油消费量


30


0


5555


1099.01


1273.265


1621202.562


汽油消费量


30


18


771


230.05


170.270


28991.746


煤油消费量


30


0


262


42.37


64.896


4211.520


柴油消费量


30


27


1368


392.34


300.979


90588.441


燃料油消费量


30


0


1574


141.00


313.467


98261.261


天然气消费量


30


1


106


19.56


22.044


485.947


电力消费量


30


98


3004


949.64


711.664


506464.953


原煤产量


30


0


58142


7909.17


11741.388


1.379E8


焦炭产量


30


0


9202


992.28


1707.998


2917256.193


原油产量


29


0


4341


637.12


1085.379


1178048.432


燃料油产量


30


0


497


75.60


126.791


16075.971


汽油产量


30


0


1032


186.49


208.771


43585.122


煤油产量


30


0


219


32.30


55.394


3068.535


柴油产量


30


0


1911


388.52


420.216


176581.285


天然气产量


30


0


164


19.52


42.371


1795.341


电力产量


30


97


2536


954.74


675.230


455935.003


有效的 N (列表状态)


29

表1-2 描述性数据汇总

标准化后得到的数据值,以下的回归分析将使用标准化数据。如图1-5所示:

图1-5 数据标准化

我们还可以通过描述性分析中的“”来得到各个变量的众数,均值等,还可以根据这些量绘制直方图。我们选取个别变量(能源消费总量)的直方图,可以看到我们因变量基本符合正态分布。如图1-6所示:

图1-6能源消费总量

1.2 回归分析

我们本次实验主要考察地区能源消费总额(因变量)与煤炭消费量、焦炭消费量、原油消费量、原煤产量、焦炭产量、原油产量之间的关系。以下的回归分析所涉及只包括以上几个变量,并使用标准化之后的数据。

1.2.1 参数设置

  1. 单击菜单栏“”-->“”-->“”,将弹出如图1-7所示的对话框,将通过选择因变量和自变量来构建线性回归模型。因变量:标准化能源消费总额;自变量:标准化煤炭消费量、标准化焦炭消费量、标准化原油消费量、标准化原煤产量、标准化焦炭产量、标准化原油产量。自变量方法选择:进入,个案标签使用地名,不使用权重最小二乘法回归分析—即WLS权重为空。

图1-7选择线性回归变量还需要设置统计量的参数,我们选择回归系数中的“”和其他项中的“”。选中估计可输出回归系数B及其标准误,t值和p值,还有标准化的回归系数beta。选中模型拟合度复选框:模型拟合过程中进入、退出的变量的列表,以及一些有关拟合优度的检验:R,R2和调整的R2, 标准误及方差分析表。如图1-8所示:

图1-8 设置回归分析统计量

3.在设置绘制选项的时候,我们选择绘制标准化残差图,其中的正态概率图是rankit图。同时还需要画出残差图,Y轴选择:ZRESID,X轴选择: ZPRED。如图1-9所示:

图1-9 设置绘制

左上框中各项的意义分别为:

  • “DEPENDNT”因变量
  • “ZPRED”标准化预测值
  • “ZRESID”标准化残差
  • “DRESID”删除残差
  • “ADJPRED”调节预测值
  • “SRESID”学生化残差
  • “SDRESID”学生化删除残差

4. 许多时候我们需要将回归分析的结果存储起来,然后用得到的残差、预测值等做进一步的分析,“保存”按钮就是用来存储中间结果的。可以存储的有:预测值系列、残差系列、距离(Distances)系列、预测值可信区间系列、波动统计量系列。本次实验暂时不保存任何项。

5. 设置回归分析的一些选项,有:步进方法标准单选钮组:设置纳入和排除标准,可按P值或F值来设置。在等式中包含常量复选框:用于决定是否在模型中包括常数项,默认选中。如图1-10所示:

图1-10  设置选项

1.2.2 结果输出与分析

在以上选项设置完毕之后点击确定,SPSS将输出一系列的回归分析结果。我们来逐一贴出和分析,并根据它得到最后的回归方程以及验证回归模型。

  1. 表1-3所示,是回归分析过程中输入、移去模型记录。具体方法为:enter(进入)

输入/移去的变量


 

                                                 输入/移去的变量


模型


输入的变量


移去的变量


方法


1


Zscore(原油产量), Zscore(原煤产量), Zscore(焦炭消费量), Zscore(原油消费量), Zscore(煤炭消费量), Zscore(焦炭产量)


.


输入

表1-3 输入的变量

2.  表1-4所示是模型汇总,R称为多元相关系数,R方(R2)代表着模型的拟合优度。我们可以看到该模型是拟合优度良好。

模型汇总


模型汇总


 


模型


R


R 方


调整 R 方


标准 估计的误差


Sig.


1


.962


.925


.905


.30692707


.000

表1-4 模型汇总

3.表1-5所示是离散分析。,F的值较大,代表着该回归模型是显著。也称为失拟性检验。


模型


平方和


df


均方


F


1


回归


25.660


6


4.277


45.397


残差


2.072


22


.094


总计


27.732


28

表1-5 离散分析

4. 表1-6所示的是回归方程的系数,根据这些系数我们能够得到完整的多元回归方程。观测以下的回归值,都是具有统计学意义的。因而,得到的多元线性回归方程:Y=0.008+1.061x1+0.087 x2+0.157 x3-0.365 x4-0.105 x5-0.017x6 

(x1为煤炭消费量,x2为焦炭消费量,x3为原油消费量,x4为原煤产量,x5为原炭产量,x6为原油产量,Y是能源消费总量)

结论:能量消费总量由主要与煤炭消费总量所影响,成正相关;与原煤产量成一定的反比。

系数


                                                                                 系数


模型


非标准化系数


标准系数


t


Sig.


B


标准 误差


beta


1


(常量)


.008


.057


.149


.883


Zscore(煤炭消费量)


1.061


.126


1.071


8.432


.000


Zscore(焦炭消费量)


.087


.101


.088


.856


.401


Zscore(原油消费量)


.157


.085


.159


1.848


.078


Zscore(原煤产量)


-.365


.155


-.372


-2.360


.028


Zscore(焦炭产量)


-.105


.150


-.107


-.697


.493


Zscore(原油产量)


-.017


.070


-.017


-.247


.807

表1-6回归方程系数

5.  模型的适合性检验,主要是残差分析。残差图是散点图,如图1-11所示:

图1-11残差图

可以看出各散点随机分布在e=0为中心的横带中,证明了该模型是适合的。同时我们也发现了两个异常点,就是广东省和四川省,这种离群点是值得进一步研究的。

还有一种残差正态概率图(rankit图)可以直观地判断残差是否符合正态分布。如图1-12所示:

图1-12 rankit(P-P)图

它的直方图如图1-13所示:

图1-13 rankit(直方)图

时间: 2024-10-14 00:50:42

SPSS19.0实战之多元线性回归的相关文章

【机器学习实战】多元线性回归模型

在许多实际问题中,影响因变量Y的自变量不止一个,通常设为p个,此时无法借助于图形的帮助来确定模型,这里则使用一种最为简单且普遍的模型--多元线性模型来进行回归计算. 1.数学模型 当影响Y值的因素不唯一时,我们可以使用多元线性回归模型: 当未知参数有两个时,我们可以画出此方程的图形表示(此时是一个平面,如图).如果未知数大于2时,则很难把此超平面给画出来. 如上图,为了求得等参数的值,我们由各个样本点(图中为红点)做一条平行于Y轴的直线,此直线交平面方程于一点,然后我们求得此线段的程度,并进行平

SPSS19.0实战之聚类分析

聚类分析是将物理或者抽象对象的集合分成相似的对象类的过程.本次实验我将对同一批数据做两种不同的类型的聚类:它们分别是系统聚类和K-mean聚类.其中系统聚类的聚类方法也采用3种不同方法,来考察对比它们之间的优劣.由于没有样本数据,因此不能根据其数据做判别分析.评价标准主要是观察各聚类方法的所得到的类组间距离和组内聚类的大小. 分析数据依然采用线性回归所使用的标准化后的能源消费数据. 1.1 系统聚类 本次实验的系统聚类都是凝聚系统聚类,为了控制变量,都采用平方Euclidean距离. 1.1.1

【R】多元线性回归

R中的线性回归函数比较简单,就是lm(),比较复杂的是对线性模型的诊断和调整.这里结合Statistical Learning和杜克大学的Data Analysis and Statistical Inference的章节以及<R语言实战>的OLS(Ordinary Least Square)回归模型章节来总结一下,诊断多元线性回归模型的操作分析步骤. 1.选择预测变量 因变量比较容易确定,多元回归模型中难在自变量的选择.自变量选择主要可分为向前选择(逐次加使RSS最小的自变量),向后选择(逐

多元线性回归和多项式回归

多项式回归也称多元非线性回归,是指包含两个以上变量的非线性回归模型.对于多元非线性回归模型求解的传统解决方案,仍然是想办法把它转化成标准的线性形式的多元回归模型来处理. 多元非线性回归分析方程 如果自变数与依变数Y皆具非线性关系,或者有的为非线性有的为线性,则选用多元非线性回归方程是恰当的.例如,二元二次多项式回归方程为: 令,及于是上式化为五元一次线性回归方程: 这样以来,便可按多元线性回归分析的方法,计算各偏回归系数,建立二元二次多项式回归方程. -参考文献:智库百科,点击打开 多元二项式回

R语言解读多元线性回归模型

转载:http://blog.fens.me/r-multi-linear-regression/ 前言 本文接上一篇R语言解读一元线性回归模型.在许多生活和工作的实际问题中,影响因变量的因素可能不止一个,比如对于知识水平越高的人,收入水平也越高,这样的一个结论.这其中可能包括了因为更好的家庭条件,所以有了更好的教育:因为在一线城市发展,所以有了更好的工作机会:所处的行业赶上了大的经济上行周期等.要想解读这些规律,是复杂的.多维度的,多元回归分析方法更适合解读生活的规律. 由于本文为非统计的专业

线性模型(1) —— 多元线性回归

提纲: 线性模型的基本形式 多元线性回归的损失函数 最小二乘法求多元线性回归的参数 最小二乘法和随机梯度下降的区别 疑问 学习和参考资料 1.线性模型的基本形式 线性模型是一种形式简单,易于建模,且可解释性很强的模型,它通过一个属性的线性组合来进行预测,其基本的形式为: 式(1) 转换成向量形式之后写成: 式(2) 为什么说其解释性很强呢,是因为模型的权值向量十分直观地表达了样本中每一个属性在预测中的重要度,打个比方,要预测今天是否会下雨,并且已经基于历史数据学习到了模型中的权重向量和截距b,则

R语言:多元线性回归和模型检验

利用swiss数据集进行多元线性回归研究 # 先查看各变量间的散点图 pairs(swiss, panel = panel.smooth, main = "swiss data", col = 3 + (swiss$Catholic > 50)) # 利用全部变量建立多元线性回归 a=lm(Fertility ~ . , data = swiss) summary(a) ## ## Call: ## lm(formula = Fertility ~ ., data = swiss

SPSS--回归-多元线性回归模型案例解析

多元线性回归,主要是研究一个因变量与多个自变量之间的相关关系,跟一元回归原理差不多,区别在于影响因素(自变量)更多些而已,例如:一元线性回归方程 为: 毫无疑问,多元线性回归方程应该为: 上图中的 x1,  x2, xp分别代表"自变量"Xp截止,代表有P个自变量,如果有"N组样本,那么这个多元线性回归,将会组成一个矩阵,如下图所示: 那么,多元线性回归方程矩阵形式为: 其中: 代表随机误差, 其中随机误差分为:可解释的误差 和 不可解释的误差,随机误差必须满足以下四个条件,

多元线性回归(Linear Regression with multiple variables)与最小二乘(least squat)

1.线性回归介绍 X指训练数据的feature,beta指待估计得参数. 详细见http://zh.wikipedia.org/wiki/%E4%B8%80%E8%88%AC%E7%BA%BF%E6%80%A7%E6%A8%A1%E5%9E%8B 使用最小二乘法拟合的普通线性回归是数据建模的基本方法. 令最小二乘项的偏导为0(为0时RSS项最小),求Beta估计值,得到最小二乘的向量形式. 最小二乘其实就是找出一组参数beta使得训练数据到拟合出的数据的欧式距离最小.如下图所示,使所有红点(训练