1965年美国加州大学柏克莱分校的扎德教授第一次提出了‘集合’的概念。经过十多年的发展,模糊集合理论渐渐被应用到各个实际应用方面。为克服非此即彼的分类缺点,出现了以模糊集合论为数学基础的聚类分析。用模糊数学的方法进行聚类分析,就是模糊聚类分析。FCM(Fuzzy C-Means)算法是一种以隶属度来确定每个数据点属于某个聚类程度的算法。该聚类算法是传统硬聚类算法的一种改进。
算法流程:
- 标准化数据矩阵;
- 建立模糊相似矩阵,初始化隶属矩阵;
- 算法开始迭代,直到目标函数收敛到极小值;
- 根据迭代结果,由最后的隶属矩阵确定数据所属的类,显示最后的聚类结果。
优点:相比起前面的”硬聚类“,FCM方法会计算每个样本对所有类的隶属度,这给了我们一个参考该样本分类结果可靠性的计算方法,若某样本对某类的隶属度在所有类的隶属度中具有绝对优势,则该样本分到这个类是一个十分保险的做法,反之若该样本在所有类的隶属度相对平均,则我们需要其他辅助手段来进行分类。
缺点:KNN的缺点基本它都有
模糊聚类
- cluster::fanny
- e1071::cmeans
cluster::fanny
需要R安装包
install.packages("cluster")
示例代码:
library(cluster) iris2 <- iris[-5] fannyz=fanny(iris2,3,metric="SqEuclidean")summary(fannyz)
分类分布:
> fannyz$clustering [1] 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 3 2 3 3 3 3 3 3 3 3 3 3 3 3 [66] 3 3 3 3 3 3 3 3 3 3 3 3 2 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 2 3 2 2 2 2 3 2 2 2 2 2 2 3 2 2 2 2 2 3 2 3 2 3 2 2 3 3 2 2 [131] 2 2 2 3 2 2 2 2 3 2 2 2 3 2 2 2 3 2 2 3
样本隶属度
> fannyz$membership [,1] [,2] [,3] [1,] 0.996623586 0.0010720343 0.0023043797 [2,] 0.975852543 0.0074979471 0.0166495094 [3,] 0.979825922 0.0064145785 0.0137594999 [4,] 0.967427446 0.0101075228 0.0224650314 [5,] 0.994470355 0.0017679352 0.0037617094 [6,] 0.934574112 0.0206196544 0.0448062334 [7,] 0.979491667 0.0065045178 0.0140038150 [8,] 0.999547263 0.0001412048 0.0003115325 [9,] 0.930379787 0.0219024180 0.0477177955 .......
图示显示 :clusplot(fannyz)
结果显示
> table(iris$Species,fannyz$clustering) 1 2 3 setosa 50 0 0 versicolor 0 3 47 virginica 0 37 13
e1071::cmeans
安装包代码:
install.packages("e1071")
示例代码:
> library("e1071") > x <- iris[-5] > result1<-cmeans(x,3,50) > result1 Fuzzy c-means clustering with 3 clusters Cluster centers: Sepal.Length Sepal.Width Petal.Length Petal.Width 1 5.888999 2.761093 4.364049 1.3973654 2 6.775092 3.052406 5.646882 2.0535855 3 5.003966 3.414086 1.482821 0.2535487 Memberships: 1 2 3 [1,] 0.0023043721 0.0010720485 0.996623579 [2,] 0.0166481906 0.0074975084 0.975854301 [3,] 0.0137586391 0.0064142953 0.979827066 .......
统计结果:
> table(iris$Species,result1$cluster) 1 2 3 setosa 0 0 50 versicolor 47 3 0 virginica 13 37 0
3d效果显示示例
#install.packages("scatterplot3d") library(scatterplot3d) scatterplot3d(result1$membership, color=result1$cluster, type="h", angle=55, scale.y=0.7, pch=16, main="Pertinence")
参考资料:
- http://blog.csdn.net/Alex_luodazhi/article/details/47125149
- https://en.wikibooks.org/wiki/Data_Mining_Algorithms_In_R/Clustering/Fuzzy_Clustering_-_Fuzzy_C-means
时间: 2024-08-27 00:21:02