概率模型思考2

概率模型的范式是这样的:

1.根据抽样建立似然函数

2.对某个参数求偏导。(实际就是最大化似然函数)

3.代入实验数据求得参数。

注意到,

1.建立目标函数要根据抽样的频数,譬如根据硬币抽样结果,抽到A硬币还是B硬币,A硬币抛了几次正面,B硬币抛了几次正面,参数是A,B的抛正面率,建立似然函数。

2.对于复杂的情况可能要抛很多次。反正建立了数学模型之后,就是求解一个优化问题了。优化的过程未必能一下子就得到参数的解析式,复杂强大的函数就必须用迭代的方式来求。

3.特殊地,深度生成网络就是一种复杂的情况。考虑到逐层抽象的概念,会利用逐层训练。每次训练都是这样的范式:抽样-->建立似然函数-->优化

4.对于测试阶段,给定一个输入,最后的分类条件概率也是通过抽样得到的。

参考文献

时间: 2024-10-26 05:22:20

概率模型思考2的相关文章

近来的思考

初八从家里滚回学校,也算有段时间了.这段时间里作出了一些改变,也对生活有了许多新的想法. 首先是,学习并不应该有什么强迫.上个学期自己的想法都一团糟,也仍是逼自己有空了就滚去看书,结果效率自然也高不了哪里去.读计算机一年多了,听到的段子自然也不会少,总感觉里面调侃的生活不太对,包括各种加班加点.自己的观念是,无论工作还是学习,都应该只是生活的一部分.从整个生活的角度去让自己的效率变高,才是真的该做的. 我也不清楚正确的生活该是怎样的,自己能做的就是时常从整个生活的角度去反思,去回看自己哪些地方是

Part I/ Chapter 3 概率论&结构化概率模型

概率论:用于表示不确定性声明的数学框架,它不仅提供了量化不确定性的方法,也提供了用于导出新的不确定性声明的公理. 一.概率论在人工智能领域的用途: ①概率法告诉我们AI系统如何推理,据此我们设计一些算法来计算或者估算由概率论导出的表达式: ②我们可以用概率和统计从理论上分析为我们提出的AI系统的行为. 二.不确定性的三种可能来源: ①被建模系统内在的随机性: ②不完全观测: ③不完全建模. 三.频率派概率(frequentist probability):直接与事件发生的频率相联系的概率,如扑克

关于迭代測试的一些思考

作者:朱金灿 来源:http://blog.csdn.net/clever101 一个软件的功能的越来越多,怎样建立一个规范的測试流程来保证对开发的功能进行充分的測试,是摆在我们面前的难题.在改动bug中经常会出现一种"按下葫芦浮起瓢"情形--改动了A模块的bug,却造成了原来測试没有问题的B模块出现了新的问题.这就促使我们思考:怎样保证測试的百分百的覆盖率.为此我设想一种迭代測试和迭代公布的流程.这个流程详细是这种:全部功能測试分为常规功能測试和新功能測试.所谓常规功能測试是指之前測

关于重构工作的一点思考

最近两周一直忙着和重构相关的事情,本文将简要概述从开始制定重构方案,到具体执行的过程中遇到的问题,以及对重构的一点理性思考. 起因: 本系统是2015年11月开始建设,当时为了快速投入使用,大量的烂代码,后期一直保持快速前进,没有进行过实质性的重构. 具体表现: ● 分层不清,sql哪都有,dao有.service也有,就差controller没写了.同样dao也包含业务逻辑. ● sql用的是spring jdbc,并没有使用mybatis,导致sql写起来有些复杂,封装不够基本都是原始sql

php各种设计模式简单实践思考

前言 我一直觉得什么框架,版本,甚至语言对于一个coder来说真的不算什么,掌握一个特别高大上的一个框架或者是一个新的,少众的语言真的不算什么,因为你可以,我要花时间也可以,大家都是这样的.所以基本的显得额外重要,即是算法和数据结构,再就是好的设计模式了,,,听过一句话,是好的数据结构是让计算机更快的工作,而一个好的设计模式则是使开发者工作的更快! 单例模式 单例模式特点 $_instance 必须声明为静态的私有变量 构造函数和克隆函数必须声明为私有的,这是为了防止外部程序 new 类从而失去

由爬虫引发的思考

前言 花了两天时间写一个简单的爬虫程序.目前所用的技术十分简单.就是获得目标页面的html文档内容,然后解析其中有用的内容.既没有实现模拟登陆,也没有任何防止反爬虫的措施,甚至没有使用多线程.不过在其中遇到的问题还是引发了我很多的思考与问题,比如爬虫的合法性问题以及爬虫的危害等.于是写下这篇文章记录一下.由于本人经验有限,引用参考了大量文章,有问题请指出. 爬虫的作用与危害 爬虫的作用 网络爬虫(Web Crawler),又称网络蜘蛛(Web Spider)或网络机器人(Web Robot),是

第二十三篇:信号机制的两个思考

前言 前文介绍了最基本的信号接收和处理,但这有无可能带来一些问题呢? 本文将通过两个思考,来分析可能带来的问题以及解决方法. 思考一:中断的系统调用 如果用户正在执行系统调用,如 write read.如果这个时候程序跳转到了信号处理函数后返回,则是否重新执行这个系统调用? 结论 这要分情况讨论:如果是磁盘 I/O 的系统调用,则自然需要自动重启:而如果是终端 I/O,则不需要自动重启. 在信号函数族中,有很多函数都是支持设置是否重启选项的.当然,用户也可以使用类似下面的代码自行实现重启: 思考

sql monitor生成不了报告& FFS hint不生效两个问题思考

事情的发生就是这么偶然,一步步的深入才能汲取到更深入的知识~~ -------------------START-------------------------------------------   来了一个query running longer than 4hours的邮件,来看看里面有哪些sql: SID    SERIAL#    INST_ID SQL_ID        Run_in_sec OS_user     MACHINE       SQL_TEXT         

MapReduce源码分析之Task中关于对应TaskAttempt存储Map方案的一些思考

我们知道,MapReduce有三层调度模型,即Job-->Task-->TaskAttempt,并且: 1.通常一个Job存在多个Task,这些Task总共有Map Task和Redcue Task两种大的类型(为简化描述,Map-Only作业.JobSetup Task等复杂的情况这里不做考虑): 2.每个Task可以尝试运行1-n此,而且通常很多情况下都是1次,只有当开启了推测执行原理且存在拖后腿Task,或者Task之前执行失败时,Task才执行多次. 而TaskImpl中存在一个成员变