本节我们将继续介绍粗糙集有关的概念。
上节我们介绍了知识粒度的矩阵表示形式,本节将介绍基于知识粒度属性约简定义和算法。
基于粗糙特征选择算法亦称为属性约简,其旨在保持数据集分类能力不变的前提下,通过约简冗余属性,最后得到问题的决策或分类规则。
相关定义
设决策信息系统\(S=(U,A=C \bigcup D,V,f)\),\(B \subseteq C\),如果\(B\)为\(S\)的最小属性约简,则:
\[
GP_{U}(D \mid B)=GP_{U}(D\mid C)
\]
\[
\forall a \in B,\quad GP_{U}(D \mid B -\{a\})\not= GP_{U}(D \mid B)
\]
第一个式子保证了约简集\(B\)有着与全体条件属性集\(C\)相同的划分能力;而第二个条件保证了约简集\(B\)内没有冗余属性。
近似分类精度的定义如下:
设决策信息系统\(S=(U,A=C \bigcup D,V,f)\),\(\forall X \subseteq U\),\(R\)是一个等价关系,则集合\(X\)关于等价关系\(R\)的近似分类精度为:
\[
\alpha_{R}(X)=\frac{|\underline{R}X|}{|\overline{R}X|}
\]
其粗糙度为:
\[
\rho_{R}(X)=1-\alpha_{R}(X)
\]
近似分类质量的定义如下:
设决策信息系统\(S=(U,A=C \bigcup D,V,f)\),\(\forall X \subseteq U\),\(R\)是一个等价关系,则集合\(X\)关于等价关系\(R\)的近似分类质量为:
\[
\gamma_{R}(X) =\frac{|\underline{R}X|}{|U|}
\]
或者说
决策信息系统\(S=(U,A=C \bigcup D,V,f)\),\(\forall X \subseteq U\),\(R=\{X_{1},X_{2},...,X_{m}\}\)是论域\(U\)的一个划分,将\(R\)的上近似和下近似分别定义为:
\[
\overline{R}X=\{\overline{R}X_{1},\overline{R}X_{2},...,\overline{R}X_{m} \}
\]
\[
\underline{R}X=\{\underline{R}X_{1},\underline{R}X_{2},...,\underline{R}X_{m} \}
\]
则\(R\)的近似分类精度:
\[
\alpha_{R}(X)=\frac{\sum^{m}_{i=1}|\underline{R}X_{i}|}{\sum_{i=1}^{m}|\overline{R}X_{i} |}
\]
近似分类质量:
\[
\gamma_{R}(X) =\frac{\sum_{i=1}^{m}|\underline{R}X_{i}|}{|U|}
\]
特别地,若等价关系\(R\)是被决策属性集\(D\)划分的,\(U/D=\{X_{1},X_{2},...,X_{m} \}\),\(\forall X \subseteq U\),则\(D\)的近似分类精度为:
\[
\alpha_{R}(D)=\frac{POS_{R}(D)} {\sum_{i=1}^{m}|\overline{R}X_{i} |}
\]
近似分类质量:
\[
\gamma_{R}(D) =\frac{POS_{R}(D)}{|U|}
\]
对于这种情况,我们先看一个例子,若
\[
U/D=\{X_1,X_2 \}=\{\{e_{1},e_{4},e_{5},e_{8}\},\{e_2,e_3,e_6,e_7 \} \}
\]
考虑论域\(U\)对条件属性集\(C\)划分的等价关系\(R\)
\[
U/C=\{\{e_1\},\{e_2\},\{e_3\},\{e_4\},\{e_5,e_7\},\{e_6,e_8\} \}
\]
下近似:
\[
\underline{R}X_1=\{e_1,e_4\}
\]
\[
\underline{R}X_2=\{e_2,e_3 \}
\]
近似分类质量:
\[
\gamma_{R}(D)=\frac{|\underline{R}X_1|+|\underline{R}X_2|}{|U|}=\frac{4}{8}=\frac{1}{2}
\]
再来看之前的一个例子:
\(S=(U,A=C \bigcup D,V,f)\)是一个决策信息系统,考虑条件属性\(C\)对论域\(U\)划分的等价关系\(R\),\(U/C=\{\{e_{3},e_{6} \},\{e_{2},e_{5} \},\{e_{1},e_{4} \} \}\),集合\(X=\{e_{1},e_{2},e_{4}\}\),显然\(X\)是一个粗糙集,则:
\[
\underline{R}X=\{e_{1},e_{4}\} \quad \overline{R}X=\{e_{1},e_{2},e_{4},e_{5}\}
\]
近似分类精度:
\[
\alpha_{R}(X)=\frac{|\underline{R}X|}{|\overline{R}X|}=\frac{2}{4}=\frac{1}{2}
\]
粗糙度:
\[
\rho_{R}(X)=1-\alpha_{R}(X)=1-\frac{1}{2}=\frac{1}{2}
\]
近似分类质量:
\[
\gamma_{R}(X) = \frac{|\underline{R}X|}{|U|} = \frac{2}{6} =
\frac{1}{3}
\]
基于知识粒度的属性约简算法
在介绍完经典粗糙集模型一些基本的相关概念后,我们将给出粗糙集里面的一个经典算法,基于知识粒度非动态属性约简算法。
算法:基于知识粒度的经典启发式属性约简算法
输入:决策信息系统\(S=(U,A=C \bigcup D,V,f)\)
输出:论域\(U\)上的约简集\(RED_{U}\)
\(begin\)
\(\quad RED_{U} \leftarrow \varnothing\)
\(\quad for \quad 1\leq j \leq |C| \quad do\)
\(\quad \quad Calculate \quad Sig_{U}^{inner}(a_{j},C,D);\)
\(\quad \quad \quad if \quad Sig_{U}^{inner}(a_{j},C,D)>0 \quad then\)
\(\quad \quad \quad \quad RED_{U} \leftarrow (RED_{U} \bigcup {a_{j}});\)
\(\quad \quad \quad end\)
\(\quad \quad end\)
\(\quad Let \quad B \leftarrow RED_{U};\)
\(\quad while \quad GP_{U}(D \mid B) \neq GP_{U}(D \mid C) \quad do\)
\(\quad \quad for \quad each \quad a_{i}\in (C-B) \quad do\)
\(\quad \quad \quad Calculate \quad Sig_{U}^{outer}(a_{i},B,D);\)
\(\quad \quad \quad a_{0}=max\{Sig_{U}^{outer}(a_{i},B,D),a_{i} \in (C-B)\};\)
\(\quad \quad \quad B\leftarrow (B \bigcup \{a_{0} \});\)
\(\quad \quad end\)
\(\quad end\)
\(\quad for \quad each \quad a_{i} \in B \quad do\)
\(\quad \quad if \quad GP_{U}(D \mid (B-\{a_{i} \}))=GP_{U}(D \mid C) \quad then\)
\(\quad \quad \quad B \leftarrow (B-\{a_{i}\});\)
\(\quad \quad end\)
\(\quad end\)
\(\quad RED_{U} \leftarrow B;\)
\(\quad return \quad reduction \quad RED_{U}\)
\(end\)
这就是基于知识粒度非动态属性约简算法的流程了,算法的流程虽然较多,但关键点在于等价类的划分,这点解决后,它的实现就不难了。
那么粗糙集有关的内容就暂告一段落了,系列博客介绍的也只是冰山一角,这里面还有很多很多的学问呢,有兴趣的可以查阅更多资料和文献。
本文参考了:
- 景运革. 基于知识粒度的动态属性约简算法研究[D].西南交通大学,2017.
原文地址:https://www.cnblogs.com/Gedanke/p/12359412.html