PGM学习之四 Factor,Reasoning

通过上一篇文章的介绍,我们已经基本了解了:Factor是组成PGM模型的基本要素;Factor之间的运算和推理是构建高维复杂PGM模型的基础。那么接下来,我们将重点理解,Factor之间的推理(Reasoning
Patterns)。Factor之间的推理分为以下几类:

1. Causal
Reasoning , 因果推理;

2. Evidential
Reasoning,证据推理;

3. Intercausal Reasoning

本文将详细描述上述三种推理模式。


Casual Reasoning,因果推理

要弄清楚因果推理,我们首先要明白什么是因果关系(Causality)。当我们说A与B之间具有因果关系,如果A是因(cause)B是果(effect),则A与B之间必须具备以下四个必要条件(necessary conditions):

A与B共变(covary),也就是A增加(或减少)B也增加(或是减少)

A发生在B之前,也就是“前因”“后果”

A与B之间的关系具有理论上的连结<-在PGM中,这种连接通常使用图的边表示

A与B之间的关系不是伪关系(spurious
relationship)

因果关系曾经被形容为“Cognitive
illusion”(认知错觉)。我们对因和果的大多数理解都是基于“associations”(影响),而没有真增认识到结果之间的相互联系。这种理解的缺乏导致了解释深度错觉。人们可能会认为他们已经了解了因果的联系,因为他们知道一个事件(因)能够导致另一个事件(果)。但是当问他们怎么解释这种关系时,他们就不得而知了。因此,有必要首先理解因果关系的类型。通过观察自然世界中的因果关系,前辈们构建了许多种不同类型的causal
models(因果模型),例如:常见的原因关系,常见的结果关系,因果链和因果关系动态平衡等。

常见的原因关系描述的是单一原因造成多重结果的影响。



常见的结果关系描述的是多个原因导致统一结果的影响。


因果链描述的是单一原因导致某一结果,这一结果又称为原因,反过来影响下一个结果。“ 
蝴蝶效应
“是一个因果链的一个例子。在这个比喻的例子,蝴蝶扇动它的翅膀,这可能会导致空气中的电流,这可能会导致飓风,这反过来又可以造成损害社区的干扰。一个更为现实的例子可能是睡眠不好导致疲劳,这反过来又导致笨拙的协调。

因果关系的动态平衡是若干个因果关系形成一个稳定的周期或者循环。

那么,又该如何进行因果推理呢(reasoning
about causals and effects),通过长时间的观察和总结。前辈们归纳出了以几种因果推理:

1.Deduction

Deduction代表一般规则,代表在一些时间发生时,有着确定的结论。在演绎推理中,人们可以在推断结果的基础上对因果关系添加某些其他参数,这些参数可以用来确定一个因果关系。例如,有的人说:地震造成人民和财产的损失。损失是一个负面的结果。因此,地震造成负面结果。基于前两个语句而得到第三个语句的逻辑结论,这个逻辑结论是确定的好不含糊的。

2.Induction

Induction包括在不确定条件下作出的任何推论。在这种情况下,得出的结论是可能的,但不能保证。在这种方式中,感应可以用来推测因果关系,但真正的因果关系的理解是不太可能来自这种类型的推理。例如,使用归纳推理来推断因果关系时,可能会说:所有证据表明,基因突变产生肿瘤。因此,它很可能是所有癌症是由基因突变引起的。在这个例子中,第一条语句是合理的,第二个是一个结论,那就是可能的,但不能保证,因为更多的证据可能还有不同的原因,光。

3.Abduction

在这种情况下,不保证结论。溯因推理是从数据描述的假说没有必然intransient的因果关系。这是一个不那么传统的推理形式为这些情况。例如,你可能会发现在一个房间里开一扇门,并猜想风打开这扇门。也可能会有很多偶然因素可能导致这一结果,但风作为一个原因的假设是合理的。我们倾向于寻找一个单一因果解释在我们的环境的影响,以减少歧义。

在上图给出的例子中,右下角给出了三个概率P(L=1)=0.5,P(L=1|I=0)=0.39,P(L=1|I=0,D=0)=0.51。从推理的角度来理解,也就是说

P(L=1|I=0,D=0)>P(L=1)>P(L=1|I=0)。也就是说,如果智商一般(I=0)并且课程难度较低(D=0),那么就比较容易获得推荐信;如果智商一般,课程难度不确定,那么相对来说,就比课程简单时获得推荐信的可能性要小一些。

二 Evidential
Reasoning,证据推理

又称登姆普斯特 谢弗推理(Dempster-Shafer reasoning)方法,简称D-S推理。D-S理论将假设视作一个集合,引入信任函数、似信度函数、类概率函数等概念描述命题的精确信任程度、信任程度和估计信任程度,对命题的不确定性作多角度的描述。对从不同性质的数据源中提取的证据,利用正交求和方法综合证据,通过证据的积累缩小集合,从而获得问题的解。其优点:①能满足更弱的公理系统,有处理信息的无知和缺失的问题的能力,对不同数据中的信息的不准确性和矛盾提供了显式的估计。②能处理类别混合问题,在混合像元的表达中非常有用。

简单来讲,证据推理就是根据结果来推断它可能的原因的过程。例如,一个学生如果理解了课堂上老师讲解的东西,那么他的家庭作业也就会做得比较好。也就是说,通过观察一个学生家庭作业的情况,能够知道他对于课堂老师讲解的东西的掌握情况如何。


Intercausal Reasoning,又叫Mixed Reasoning,混合推理。


混合推理是指结合了因果推理和证据推理的推理方式。例如,如果观察到一个学生在考试中取得了好成绩,那么着就表明他理解了老师课堂上讲解的东西;同时也表明他家庭作业也做得不错。

PGM学习之四 Factor,Reasoning,码迷,mamicode.com

时间: 2024-10-13 21:29:04

PGM学习之四 Factor,Reasoning的相关文章

PGM学习之二 PGM模型的分类与简介

废话:和上一次的文章确实隔了太久,希望趁暑期打酱油的时间,将之前学习的东西深入理解一下,同时尝试用Python写相关的机器学习代码. 一 PGM模型的分类 通过上一篇文章的介绍,相信大家对PGM的定义和大致应用场景有了粗略的了解.那么接下来我们来深入了解下PGM. 首先要介绍的是Probabilistic models(概率模型),常用来描述不同的随机变量之前的关系,主要针对变量或变量间的相互不确定性的概率关系建模.总的来说,概率模型分为两类: 一类是参数模型-可以用有限个参数进行准确定义 参数

mysql学习之四:sql语句学习2

创建数据库: CREATE DATABASE stefan; 删除数据库: DROP DATABASE stefan; 重命名数据库: 重命名数据库没有直接的办法. 已经不再使用的方法: RENAME DATABASE stefan TO LCDB; 创建表格语法: CREATE TABLE 表名称 ( 列名称1 数据类型, 列名称2 数据类型, 列名称3 数据类型, .... )   查看一个表格结构: DESCRIBE Persons;     ALTER TABLE 语句用于在已有的表中添

PGM学习之六 从有向无环图(DAG)到贝叶斯网络(Bayesian Networks)

本文的目的是记录一些在学习贝叶斯网络(Bayesian Networks)过程中遇到的基本问题.主要包括有向无环图(DAG),I-Maps,分解(Factorization),有向分割(d-Separation),最小I-Maps(Minimal I-Maps)等.主要参考Nir Friedman的相关PPT. 1  概率分布(Probability Distributions) 令X1,...,Xn表示随机变量:令P是X1,...,Xn的联合分布(joint distribution).如果每

SSH学习之四 OpenSSH安全

OpenSSH是Linux/Unix下一款加密通讯软件,同时也是我们用来远程控制Linux/Unix服务器重要的必装软件.对于各版本的Linux及Unix发行版而言,OpenSSH的配置文件位置都各不一样.如Ubuntu下OpenSSH配置文件就在/etc/ssh/sshd_config. OpenSSH安全选项: Port 22 // OpenSSH打开的端口号 LoginGraceTime 120 // 客户端连接服务器成功后多少秒未登陆就被强制关闭连接 PermitRootLogin ye

PGM学习之七 MRF,马尔科夫随机场

之前自己做实验也用过MRF(Markov Random Filed,马尔科夫随机场),基本原理理解,但是很多细节的地方都不求甚解.恰好趁学习PGM的时间,整理一下在机器视觉与图像分析领域的MRF的相关知识. 打字不易,转载请注明.http://blog.csdn.net/polly_yang/article/details/9716591 在机器视觉领域,一个图像分析问题通常被定义为建模问题,图像分析的过程就是从计算的观点来求解模型的过程.一个模型除了可以表达成图形的形式外,通常使用一个目标函数

PGM学习之三 朴素贝叶斯分类器(Naive Bayes Classifier)

介绍朴素贝叶斯分类器的文章已经很多了.本文的目的是通过基本概念和微小实例的复述,巩固对于朴素贝叶斯分类器的理解. 一 朴素贝叶斯分类器基础回顾 朴素贝叶斯分类器基于贝叶斯定义,特别适用于输入数据维数较高的情况.虽然朴素贝叶斯分类器很简单,但是它确经常比一些复杂的方法表现还好. 为了简单阐述贝叶斯分类的基本原理,我们使用上图所示的例子来说明.作为先验,我们知道一个球要么是红球要么是绿球.我们的任务是当有新的输入(New Cases)时,我们给出新输入的物体的类别(红或者绿).这是贝叶斯分类器的典型

Java并发学习之四——操作线程的中断机制

本文是学习网络上的文章时的总结,感谢大家无私的分享. 1.如果线程实现的是由复杂算法分成的一些方法,或者他的方法有递归调用,那么我们可以用更好的机制来控制线程中断.为了这个Java提供了InterruptedException异常.当你检测到程序的中断并在run()方法内捕获,你可以抛这个异常. 2.InterruptedException异常是由一些与并发API相关的Java方法,如sleep()抛出的. 下面以程序解释 package chapter; import java.io.File

视频编解码学习之四:视频处理及编码标准

1.视频处理 在视频压缩前后,对视频图像质量增强的操作 视频编解码系统输出的图像主观质量不仅与压缩算法的性能有关,还受视频处理的影响 压缩之前对视频的处理称作预处理(Pre-processing) 压缩之后对视频的处理称作后处理(Post-processing) 2. 预处理 预处理的目的 为了减少原图像受到的损害,保持原图像的重要特征,使原图像能被高效的压缩 噪声污染 光照差 抖动 为了进行视频格式转换 去隔行 空间缩放 帧率转换 去噪声处理 去隔行(Deinterlace) 隔行扫描的视频图

PGM学习之一

一 课程基本信息 本课程是由Prof.Daphne Koller主讲,同时得到了Prof. Kevin Murphy的支持,在coursera上公开传播.在本课程中,你将学习到PGM(Probabilistic Graphical Models)表示的基本理论,以及如何利用人类自身的知识和机器学习技术来构建PGM:还将学习到使用PGM算法来对有限.带噪声的证据提取结论,在不确定条件下做出正确的抉择.该课程不仅包含PGM框架的理论基础,还有将这些技术应用于新问题的实际技巧. 本课程包含以下主题: