PGM:无向图模型:马尔可夫网

http://blog.csdn.net/pipisorry/article/details/52489321

马尔可夫网

马尔可夫网在计算机视觉领域通常称为马尔可夫随机场(Markov random fields, MRF)。

马尔可夫网是刻画X上联合分布的一种方法。

与贝叶斯网一样,马尔可夫网可以视为定义了一系列由图结构确定的独立性假设。

皮皮blog

无向图模型误解示例

P-map

不能构建贝叶斯网的一个示例

x1表示这个学生对概念存在误解,x0表示没有。

例3.8

Note: 其中的bd其实只要给定c就是相互依赖了。[PGM:贝叶斯网络]

误解示例的无向图模型解决

两两之间的分布

配分函数

设计并计算出的一种联合分布

图4.2中的联合分布概率是这么设计并计算出来的:

通过在ACD上求和,得出P(b1) = 0.732 和 P(b0) = 0.268

如果观察到Charles没有产生误解c0,那么P(b1 | c0) = 0.06.

分布分解的独立性

皮皮blog

参数化

因子分解被定义为图中团上因子和乘积(通常为非负函数)。

因子及其辖域的定义

成对参数化

参数化的非一般表示?也就是如果这个主要应用于成对马尔可夫网,这时就相当于团位势参数化了?

Note: 成对参数化中,参数的个数与变量的个数成平方关系。

因子乘积

更一般而合理的因子设计?也就是先设计好两两之间的因子,再通过相乘设计好三三之间或更大集合间的因子?应该是应用于团位势参数化计算中。

吉布斯分布与马尔可夫网

{因子乘积的更一般化概念定义分布的无向图参数化,如何将一个贝叶斯网视为一个吉布斯分布。}

吉布斯分布及配分函数

Note: 通过将证据引入到贝叶斯网中,可以获得的未归一化度量也是一个吉布斯分布,其配分函数就是证据的概率。

其它因子影响分布的示例

团位势参数化:完备子图的因子分解

{马尔可夫网参数化的三种方式之一}

[图论]

如果根据上述定义只将因子与完备子图关联,那么由网络结构导出的独立性假设不会遭到破坏。(后面将定义)

团位势参数化将利用辖域是整个图的一个因子 ,因而需要指数数量级的参数。

马尔可夫网及其团的示例

成对马尔可夫网

简化马尔可夫网

约简定义及示例

 

。。。not understand yet

约简的马尔可夫网

马尔可夫网在计算机视觉中的应用

图像去噪、去模糊、三维重建、物体识别

物体识别(图像分割)

皮皮blog

马尔可夫网的独立性

{无向图模型类的参数化与图结构联系起来,将其用于获取分布的独立性性质。无向图获取交互影响类的直观解释。无向图作为独立性断言的一种表示的介绍。

在无向图模型中,关于以因子分解的形式具体指定概率分布,也证明了图可以视为一种数据结构。}

基本独立性:全局独立性

无向图分离准则

直观上,在马尔可夫网中,概率影响在图中沿着无向路径流动,但当我们对某些中间节点取条件时,流动会受到阻碍。

表达的局限性:有些独立模式无法用马尔可夫网结构表达

可靠性

可靠性soundness:在G上因子分解的任意分布都满足分离性所蕴含的独立性条件。

Note: I-MAP, 与P相关的独立性集合。

就是说G上的独立性P都满足,但是反过来P上的独立性G不一定都满足。

[PGM:贝叶斯网络 ]

完备性

独立性回顾

两种局部马尔可夫假设:成对独立性和马尔可夫毯

三种马尔可夫性质间的关系

前面提到的与网络结构H相关的三个独立性断言(Ip(H), Il(H)和I(H))的集合的定义关于正分布是等价的。

从分布到图

{利用图结构在给定分布P中编码独立性}

类似贝叶斯网

强完备性反例:马尔可夫网不可代替贝叶斯网?例4.8

皮皮blog

参数化回顾

马尔可夫网参数化方法:团位势上的乘积;因子图表示因子的乘积;特征集则在特征权重上表示乘积。

细粒度参数化方法

{马尔可夫网参数化替代表示的一些方法,取代前面提到的(成对参数化和)团位势参数化}

因子图

马尔可夫网结构通常不能揭示吉布斯参数化中的所有结构。特别的,我们无法从图结构中得知是否参数化中的因子包含了最大团或者包含了其子集。

a是最大团,而b是团,所以才不同?

对数线性模型

因子转换到对数空间

Note: ln(30) = 3.4

特征和指示特征

对数线性模型

参数化方法讨论

显然,每种表示都比前一种表示更加精细而且同样 丰富。因子图可以描述吉布斯分布,特征集则可以在因子图的每个因子中表示所有的表值。

度量马尔可夫随机场

过参数化

相同分布可以用无穷多种方法表示马尔可夫网(给定结构的),从中可以选出一个作为我们为这个分布选择的参数化方法。

标准参数化

标准能量函数的计算公式

误解示例的标准能量函数示例

 

Note: ln(1.4*10^-6) = -13.49

标准参数化定义了与原分布P相同的一个分布

结论:对于正分布,所有4个条件——因子分解和三类马尔可夫假设都是等价的。

消除冗余性

{针对过度参数化的另一个方法}

。。。

皮皮blog

from: http://blog.csdn.net/pipisorry/article/details/52489321

ref:

时间: 2024-11-01 12:55:53

PGM:无向图模型:马尔可夫网的相关文章

机器学习算法总结(七)——隐马尔科夫模型(前向后向算法、鲍姆-韦尔奇算法、维特比算法)

概率图模型是一类用图来表达变量相关关系的概率模型.它以图为表示工具,最常见的是用一个结点表示一个或一组随机变量,结点之间的变表是变量间的概率相关关系.根据边的性质不同,可以将概率图模型分为两类:一类是使用有向无环图表示变量间的依赖关系,称为有向图模型或贝叶斯网:另一类是使用无向图表示变量间的相关关系,称为无向图模型或马尔科夫网. 隐马尔科夫模型(简称HMM)是结构最简单的动态贝叶斯网,是一种著名的有向图模型,主要用于时间序数据建模,在语音识别,自然语言处理,生物信息,模式识别中有着广泛的应用,虽

隐马尔可夫(HMM)模型

隐马尔可夫(HMM)模型 隐马尔可夫模型,是一种概率图模型,一种著名的有向图模型,一种判别式模型.主要用于时许数据建模,在语音识别.自然语言处理等领域广泛应用. 概率图模型分为两类,一类:使用有向无环图表示变量间的依赖关系,称为有向图模型或者贝叶斯网:第二类:使用无向图表示变量间的依赖关系,称为无向图模型或者马尔可夫网. 判别式模型:考虑条件分布P(Y, R | O),生成式模型:考虑联合分布P(Y, R, O) HMM三个假设 当前观测值只由当前隐藏状态决定 当前隐藏状态由前一个隐藏状态决定

隐马尔科夫模型(前向后向算法、鲍姆-韦尔奇算法、维特比算法)

概率图模型是一类用图来表达变量相关关系的概率模型.它以图为表示工具,最常见的是用一个结点表示一个或一组随机变量,结点之间的变表是变量间的概率相关关系.根据边的性质不同,可以将概率图模型分为两类:一类是使用有向无环图表示变量间的依赖关系,称为有向图模型或贝叶斯网:另一类是使用无向图表示变量间的相关关系,称为无向图模型或马尔科夫网. 隐马尔科夫模型(简称HMM)是结构最简单的动态贝叶斯网,是一种著名的有向图模型,主要用于时间序数据建模,在语音识别,自然语言处理,生物信息,模式识别中有着广泛的应用,虽

隐马尔科夫模型(HMM)及其实现

马尔科夫模型 马尔科夫模型是单重随机过程,是一个2元组:(S,A). 其中S是状态集合,A是状态转移矩阵. 只用状态转移来描述随机过程. 马尔科夫模型的2个假设 有限历史性假设:t+l时刻系统状态的概率分布只与t时刻的状态有关,与t时刻以前的状态无关: 齐次性假设:从t时刻到t+l时刻的状态转移与t的值无关. 以天气模型为例 天气变化有3中状态S:{1(阴),2(云),3(晴)} 图片来自网络 则状态转移矩阵A: 这样,只要知道的初始状态概率向量,就能预测接下来每天的天气了. 隐马尔科夫模型 隐

NLP —— 图模型(一)隐马尔可夫模型(Hidden Markov model,HMM)

本文简单整理了以下内容: (一)贝叶斯网(Bayesian networks,有向图模型)简单回顾 (二)隐马尔可夫模型(Hidden Markov model,HMM) 写着写着还是写成了很规整的样子,因为比较常用的例子比如掷骰子.天气变化什么的都觉得太toy.以后会修改. (一)贝叶斯网简单回顾 图模型(PGM)根据边是否有向,可以分为有向图模型和无向图模型. 待补充-- (二)隐马尔可夫模型 隐马尔可夫模型(Hidden Markov model,HMM)属于生成式模型,被广泛用于序列标注

炎热天气看书还是钓鱼?隐马尔科夫模型教你预测!

高温天气与行为概率 夏季是一年最热的时候,气温普遍偏高,一般把日最高气温达到35℃以上的天气叫作高温天气,但是一般情况下高温天气分为两类.  (1)干热型高温.一般是指气温较高.太阳辐射强而且空气的湿度较小的高温天气.  (2)闷热型高温.一般是指水汽丰富,但是气温相对而言并不算太高,给人感受闷热.  小张在不同类型下的高温天气下会有不同的行为,但是归纳起来为主要为散步.垂钓.看书三类,分别在干热型高温和闷热型高温下对应行为的概率见下表.  假设干热型高温和闷热型高温之间会进行相互转变,每天可能

PGM学习之七 MRF,马尔科夫随机场

之前自己做实验也用过MRF(Markov Random Filed,马尔科夫随机场),基本原理理解,但是很多细节的地方都不求甚解.恰好趁学习PGM的时间,整理一下在机器视觉与图像分析领域的MRF的相关知识. 打字不易,转载请注明.http://blog.csdn.net/polly_yang/article/details/9716591 在机器视觉领域,一个图像分析问题通常被定义为建模问题,图像分析的过程就是从计算的观点来求解模型的过程.一个模型除了可以表达成图形的形式外,通常使用一个目标函数

图解隐马尔科夫模型【会其意】

隐马尔可夫(HMM)好讲,简单易懂不好讲.少写公式.霍金曾经说过,你多写一个公式,就会少一半的读者.所以时间简史这本关于物理的书和麦当娜关于性的书卖的一样好.我会效仿这一做法,写最通俗易懂的答案. 还是用最经典的例子,掷骰子.假设我手里有三个不同的骰子.第一个骰子是我们平常见的骰子(称这个骰子为D6),6个面,每个面(1,2,3,4,5,6)出现的概率是1/6.第二个骰子是个四面体(称这个骰子为D4),每个面(1,2,3,4)出现的概率是1/4.第三个骰子有八个面(称这个骰子为D8),每个面(1

隐马尔可夫模型(Hidden Markov Model,HMM)

介绍 崔晓源 翻译 我们通常都习惯寻找一个事物在一段时间里的变化规律.在很多领域我们都希望找到这个规律,比如计算机中的指令顺序,句子中的词顺序和语音中的词顺序等等.一个最适用的例子就是天气的预测. 首先,本文会介绍声称概率模式的系统,用来预测天气的变化 然后,我们会分析这样一个系统,我们希望预测的状态是隐藏在表象之后的,并不是我们观察到的现象.比如,我们会根据观察到的植物海藻的表象来预测天气的状态变化. 最后,我们会利用已经建立的模型解决一些实际的问题,比如根据一些列海藻的观察记录,分析出这几天