使用python利用pca对数据降维处理

下面写下用pca对数据进行降维处理的过程:

Python源代码如下:

 1 from numpy import *;
 2 def loadDataSet(fileName,delim=‘\t‘):
 3     # 打开文件
 4     fr=open(fileName);
 5     """
 6 >>> line0=fr.readlines();
 7 >>> type(line0)
 8 <class ‘list‘>
 9 >>> line0[0]
10 ‘10.235186\t11.321997\n‘
11     """
12     stringArr=[line.strip().split(delim) for line in fr.readlines()];
13     # map函数作用于给定序列的每一个元素,并用一个列表来提供返回值
14     datArr=[list(map(lambda x:float(x),line)) for line in stringArr];
15     dataMat=mat(datArr);
16     return dataMat;
17
18 def pcaFun(dataMat,topNfeat=9999999):
19     # 计算每列的平均值axis=0,计算每行的平均值axis=1
20     meanVals=mean(dataMat,axis=0);
21     # 去平均值,shape(dataMat)=(1000, 2),shape(meanVals)=(1, 2)
22     meanRemoved=dataMat-meanVals;# 可以直接对两个维度不同的矩阵进行运算
23     # 计算协方差矩阵shape(covMat)=(2, 2)
24     covMat=cov(meanRemoved,rowvar=0);
25     # 计算协方差矩阵的特征值和特征向量
26     eigVals,eigVects=linalg.eig(mat(covMat));
27     # 对特征值按升序排序
28     eigValInd=argsort(eigVals);
29     # 对特征值进行逆序排序
30     eigValInd=eigValInd[:-(topNfeat+1):-1];
31     # 计算最大特征值对应的特征向量
32     redEigVects=eigVects[:,eigValInd];
33     # 计算降维之后的数据集
34     lowDDataMat=meanRemoved*redEigVects;
35     # 重构原始数据
36     reconMat=(lowDDataMat*redEigVects.T)+meanVals;
37     return lowDDataMat,reconMat;
38
39 import matplotlib.pyplot as plt;
40 # 绘图,绘出原始数据和降维后的数据
41 def plotData(dataMat,reconMat):
42     # import matplotlib;
43     # import matplotlib.pyplot as plt;
44     fig=plt.figure();
45     ax=fig.add_subplot(111);
46     ax.scatter(dataMat[:,0].flatten().A[0],dataMat[:,1].flatten().A[0],marker=‘^‘,s=90);
47     ax.scatter(reconMat[:,0].flatten().A[0],reconMat[:,1].flatten().A[0],marker=‘o‘,s=50,c=‘red‘);
48     plt.show();

上面代码中lowDDataMat为降维后的数据集,reconMat为重构的数据集;绘出原始数据和降维后的数据图如下: