第六章 概率图模型

概率图模型构建了这样一幅图,用观测节点表示观测到的数据,用隐含节点表示潜在的知识,用边来描述知识与数据的相互关系,最后基于这样的关系图获得一个概率分布,非常“优雅”地解决的问题。

概率图模型包括了朴素贝叶斯模型、最大熵模型、隐马尔可夫模型、条件随机场、主题模型等。主要在NLP领域用的较为广泛

1 概率图模型额联合概率分布

团:如果在X={x1,x2,...,xn}所构成的子集中,任意两点之间都存在边相连,则这个子集中的所有节点构成了一个团

本模块涉及到的两道题属于概率论题,详见P118-119

2 概率图表示

Q1:解释朴素贝叶斯模型的原理,并给出概率图模型的表示。

A1:P121

Q2:解释最大熵模型的原理,并给出概率图模型表示。

A2:熵就是不确定性的度量,熵越大,不确定性也就越大。最大熵原理是概率模型学习的一个准则,指导思想实在满足约束条件的模型集合中选取熵最大的模型,即不确定性最大的模型。  后续原理见P122-124

3 生成式模型与判别式模型

Q1:常见的概率图模型中,哪些是生成式模型,哪些是判别式模型?

A1:生成式模型是对联合概率分布P(X,Y,Z)进行建模,在给定观测集合X的条件下,通过计算边缘分布来得到对变量集合Y的推断。

  判别式模型是直接对条件概率分布P(X,Y,Z)进行建模,然后消掉无关变量Z就可以得到对变量集合Y的预测。

  常见的概率图模型有朴素贝叶斯、最大熵模型、贝叶斯网络、隐马尔科夫模型、条件随机场、pLSA、LDA(线性判别分析)等

  生成式模型有:朴素贝叶斯、贝叶斯网络、隐马尔科夫模型、pLSA、LDA(线性判别分析)

  判别式模型有:最大熵模型、条件随机场等。

4 马尔可夫模型

关于概念参考https://blog.csdn.net/maverick17/article/details/79574917

5 主题模型

参考 https://blog.csdn.net/qq_39422642/article/details/78730662

这两节都讲的设计NLP领域的机器学习方法。比较复杂,本人暂时未涉及到,这块 暂时放一放。

原文地址:https://www.cnblogs.com/guohaoblog/p/11219916.html

时间: 2024-08-29 13:57:34

第六章 概率图模型的相关文章

第六章 概率图模型的新型学习方法

主动学习方法 增量学习

第二章 概率图模型的基本原理

分为有向概率图模型(Directed Probabilistic Graphical Model),无向概率图模型(Undirected Probabilistic Graphical Model),混合概率图模型(Mixed Probabilistic Graphical Model). 有向概率图模型:隐马尔科夫模型,贝叶斯网络,,动态贝叶斯网络 无向概率图模型:马尔科夫随机场,条件随机场 混合概率图模型:链图 隐马尔科夫模型(Hidden Markov Model, HMM) HMM算法实

Ruby on Rails Tutorial 第六章 用户模型

1.用户模型(1)数据库迁移Rails默认使用关系数据库存储数据,数据库中的表有数据行组成,每一行都有相应的列,对应数据属性.把列名命名为相应的名字后,ActiveRecord会自动把他们识别为用户对象的属性. $ rails generate controller Users new #生成用户控制器和new动作,控制器名是复述Users $ rails generate model User name:string email:string #生成用户模型,模型名是单数User $ bund

《Java并发编程实战》第十六章 Java内存模型 读书笔记

Java内存模型是保障多线程安全的根基,这里仅仅是认识型的理解总结并未深入研究. 一.什么是内存模型,为什么需要它 Java内存模型(Java Memory Model)并发相关的安全发布,同步策略的规范.一致性等都来自于JMM. 1 平台的内存模型 在架构定义的内存模型中将告诉应用程序可以从内存系统中获得怎样的保证,此外还定义了一些特殊的指令(称为内存栅栏或栅栏),当需要共享数据时,这些指令就能实现额外的存储协调保证. JVM通过在适当的位置上插入内存栅栏来屏蔽在JVM与底层平台内存模型之间的

深入理解Magento – 第六章 – 高级Magento模型(转)

深入理解Magento 作者:Alan Storm 翻译:Hailong Zhang 第六章 – 高级Magento模型 我们讲过Magento有两种模型,简单模型和EAV(Entity Attribute Value)模型.上一章我们讲过所有的Magento模型都是继承自Mage_Core_Model_Abstract / Varien_Object.简单模型和EAV模型的区别在于资源模型(Model Resource).虽然所有的资源模型都最终继承“Mage_Core_Model_Resro

ASP.NET MVC with Entity Framework and CSS一书翻译系列文章之第六章:管理产品图片:多对多关系(上)

这章介绍了怎样创建一个新的实体来管理图片,怎样使用HTML窗体来上传图片文件和使用多对多关系来使它们与产品相关,并且怎样来保存图片到文件系统中.这章也介绍了更多复杂的错误处理增加客户端错误到模型中为了把它们显示回给用户.在这章中播种数据库使用的产品图片可能在在第六章的从Apress网页站点下载代码中. 注意:如果你想遵从这章的代码,你必须完成第五章的代码或者从www.apress.com下载第五章的源代码作为一个起点. 创建实体保存图片文件名 这个项目,我们正要使用文件系统在Web项目中存储图片

概率图模型基础

一.概念引入 很多事情是具有不确定性的.人们往往希望从不确定的东西里尽可能多的得到确定的知识.信息.为了达到这一目的,人们创建了概率理论来描述事物的不确定性.在这一基础上,人们希望能够通过已经知道的知识来推测出未知的事情,无论是现在.过去.还是将来.在这一过程中,模型往往是必须的,什么样的模型才是相对正确的?这又是我们需要解决的问题.这些问题出现在很多领域,包括模式识别.差错控制编码等. 概率图模型是解决这些问题的工具之一.从名字上可以看出,这是一种或是一类模型,同时运用了概率和图这两种数学工具

《Entity Framework 6 Recipes》中文翻译系列 (30) ------ 第六章 继承与建模高级应用之多对多关联

翻译的初衷以及为什么选择<Entity Framework 6 Recipes>来学习,请看本系列开篇 第六章  继承与建模高级应用 现在,你应该对实体框架中基本的建模有了一定的了解,本章将帮助你解决许多常见的.复杂的建模问题,并解决你可能在现实中遇到的建模问题. 本章以多对多关系开始,这个类型的关系,无论是在现存系统还是新项目的建模中都非常普遍.接下来,我们会了解自引用关系,并探索获取嵌套对象图的各种策略.最后,本章以继承的高级建模和实体条件结束. 6-1  获取多对多关联中的链接表 问题

构建之法五、六章读后感

在本周我主要学习了构建之法的第五章和第六章,第五章主要讲述团队和流程,第六章主要讲述敏捷流程: 软件团队的模式有:主治医师模式.明星模式.社区模式.业余剧团模式.秘密团队.特工团队.交响乐团模式.爵士乐模式.功能团队模式.官僚模式: 开发流程包括:写了再改模式.瀑布模型.瀑布模型的变形(生鱼片模型.大瀑布带着小瀑布): Rational Unified Process统一流程(RUP):包括业务建模.需求.分析和设计.实现.测试.部署.配置和变更管理.项目管理.环境: RUP的四个阶段包括:初始