第一章 随机事件和概率


第一章     随机事件和概率



§ 1.1 随机事件和样本空间

    概率论的任务是寻求随机现象发生的可能性,并对这种可能性的大小给出度量方式及其算法

随机试验是对随机现象的观察

① 可在相同条件下重复进行

② 每次试验可能出现不同的结果,最终出现哪种结果,试验之前不能确定

③事先知道试验可能出现的全部结果

随机试验的每一个可能结果成为一个随机事件,简称事件

事件分为基本事件和复合事件。又可分为必然事件(记做Ω)和不可能事件(记做)

样本空间:一个随机试验E产生的所有基本事件构成的集合称为样本空间(记做Ω),称其中元素为一个样本点,

记做ω。 Ω={ω}。



§ 1.2 事件的关系和运算

① 事件的包含与相等

② 事件的和(并)与积(交)

③ 互不相容事件与对立事件

设A、B为两事件,若A和B不能同时发生,即AB=,则称A和B是互不相容事件或互斥事件

若A、B互不相容,且他们的和为必然事件,即AB=及A∪B=Ω,则称A和B为对立事件或互为逆事件

④ 两事件的差

设A、B为两事件,“事件A发生而事件B不发生”是一个事件,称为事件A和B的差事件,记做A-B

事件的运算性质:

① 交换律:A∪B=B∪A,AB=BA;

② 结合律:A∪(B∪C)=(A∪B)∪C,(AB)C=A(BC);

③ 分配律:A(B∪C)=(AB)∪(AC),

A∪(BC)=(A∪B)(A∪C);

④ 德摩根(De Morgan)对偶律:

(A∪B)的逆=A的逆交B的逆;    AB的逆=A的逆∪B的逆



§ 1.3 事件的概率及其计算

    概率的统计定义——定义1.1: P(A)≈n/N

① 非负性 ② 规范性 ③ 有限可加性

古典型概率:① 有限性 ②等可能性

P(A)=(A中所有样本点数)/Ω中样本点总数=m/n

n的计数规则:加法原理、乘法原理

超几何分布

几何型概率



§ 1.4 概率的公理化定义

    设有随机试验E,E的样本空间为Ω,记包括Ω在内的E的所有事件组成的集合族为£,若对£中的任一个事件A

都能赋予一个实数P(A),且P(A)满足条件:

① 非负性:0<=P(A)<=1

② 规范性:P(Ω)=1

③ 可列可加性: 对两两互不相容的事件A,A,A…,有

P((i=1,∞)∑Ai)=(i=1,∞)∑P(Ai)

则称P(A)为事件A的概率

性质1:不可能事件概率为0,即P()=0

性质2: 有限可加性

性质3:(逆事件)P(A的逆)=1-P(A)

性质4: P(A-B)=P(A-AB)=P(A)-P(AB)

性质5: (加法公式)设A、B、C为任意三个事件,P(A∪B)=P(A)+P(B)-P(AB)

P(A∪B∪C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)



§ 1.5 条件概率和事件的独立性

    条件概率:P(A|B)=P(AB)/P(B)

非负性:0<=P(A|B)<=1

规范性:P(Ω|B)=1

可列可加性:

    P(A的逆|B)=1-P(A|B)

乘法公式: P(AB)=P(A|B)P(B)  当P(B)>0时

P(AB)=P(B|A)P(A)

全概率公式(定理1.1):设样本空间Ω的一个划分为A,A,A…,且P(Ai)>0,i=1,2,...,n,则对任一事件B

含于Ω,有    P(B)=(i=1,n)∑P(B|Ai)P(Ai)

贝叶斯公式: 设A,A,A… 为一个样本空间Ω的一个划分,且P(Ai)>0,i=1,2,3,...,n.对任意的随机事件B

含于Ω,若P(B)>0,则P(Ai|B)=P(B|Ai)P(Ai)/((j=1,n)∑P(B|Aj)P(Aj))

时间: 2024-08-09 05:55:21

第一章 随机事件和概率的相关文章

第一章 随机事件与概率

1.随机事件 1.1.随机试验与样本空间 为了研究随机现象,就要进行实验或对随机现象进行观察.这种实验或观察的过程称为 随机试验.概率论里所研究的随机试验具有下面两个特征: (1) 可以在完全相同的条件下重复进行:(2) 试验会出现哪些可能的结果在试验前是已知的,但每次试验究竟会出现哪一个结果在试验前是无法准确预知的. 在随机试验中,每一个可能出现的不可再分解的最简单的结果称为随机试验的基本事件基本事件或 样本点:由全体基本事件构成的集合称为 基本事件空间或 样本空间,样本空间通常用 ? 表示.

概率论与数理统计图示(第一章 概率论的基本概念)1.2概率

概率论与数理统计图示(第一章 概率论的基本概念) 1.2概率 1.概念 概率:对随机时间发生可能性大小的客观度量 频率:频率≠概率,只能作为概率估计 古典概率:有限性.等可能性 几何概率:古典概率的推广,将“等可能性”推广至“均匀性” 2.概率公理化定义 1.非负性:0≤P(A)≤1 2.规范性:P(Ω)=1 3.可例(完全)可加性:事例互不相容——事件概率和=事件和概率 3.概率的性质 1) P(Φ)=0 2)有限可加性 3)单调性 4)P(A)=1-P(A) 5)一般减法公式 P(A)=P(

用 WEKA 进行数据挖掘 ——第一章:简介

1.简介数据挖掘.机器学习这些字眼,在一些人看来,是门槛很高的东西.诚然,如果做算法实现甚至算法优化,确实需要很多背景知识.但事实是,绝大多数数据挖掘工程师,不需要去做算法层面的东西.他们的精力,集中在特征提取,算法选择和参数调优上.那么,一个可以方便地提供这些功能的工具,便是十分必要的了.而weka,便是数据挖掘工具中的佼佼者.Weka的全名是怀卡托智能分析环境(Waikato Environment for Knowledge Analysis),是一款免费的,非商业化的,基于JAVA环境下

第一章:机器学习基础

第一部分:分类 本书前两部分主要探讨监督学习(supervisedieaming).在监督学习的过程中,我们只需要给定输入样本集,机器就可以从中推演出指定目标变量的可能结果.监督学习相对比较简单,机器只需从输入数据中预测合适的模型,并从中计算出目标变量的结果.      监督学习一般使用两种类型的目标变量:标称型和数值型.标称型目标变量的结果只在有限目标集中取值,如真与假.动物分类集合{爬行类.鱼类.哺乳类.两栖类.植物.真菌};数值型目标变量则可以从无限的数值集合中取值,如0.100.42.0

Learning From Data 第一章总结

之前上了台大的机器学习基石课程,里面用的教材是<Learning from data>,最近看了看觉得不错,打算深入看下去,内容上和台大的课程差不太多,但是有些点讲的更深入,想了解课程里面讲什么的童鞋可以看我之前关于课程的第一章总结列表: 机器学习定义及PLA算法 机器学习的分类 机器学习的可能性 我打算边看书边复习讲义,然后用自己的话把每章能看懂的点总结下,欢迎大家指正.由于用语会尽量口语保证易懂,所以会有失严谨性,具体的细节可以看本书.<Learning from data>

2014年软考-信息处理技术员-考试辅导【第一章】

51CTO学院,在软考备考季特别整理了"2014年软考-信息处理技术员[考试辅导汇总]",帮助各位学院顺利过关!更多软件水平考试辅导及试题,请关注51CTO学院-软考分类吧! 查看汇总:2014年软考-信息处理技术员-考试辅导[汇总篇]  信息的定义: 哲学:信息是物质的一种普遍属性,本质属性.事物在运动中发出一定的信号,这些能够被其它事物所感知的表征该事物特征的信号的内容即为该事物向其它事物所传递的信息. Winer:信息是我们适应外部世界并且使这种适应为外部世界所感知的过程中,同外

统计学习方法 笔记&lt;第一章&gt;

第一章 统计学习方法概述 1.1 统计学习 统计学习(statistical learning)是关于计算机基于数据概率模型并运用模型进行预测和分析的学科.统计学习也称为统计机器学习,现在人们提及的机器学习一般都是指统计机器学习. 统计学习的对象是数据(data),关于数据的基本假设是同类数据具有一定的统计规律性(前提):比如可以用随机变量描述数据中的特征,用概率分布描述数据的统计规律等. 统计学习的目的:对现有的数据进行分析,构建概率统计模型,分析和预测未知新数据,同时也需要考虑模型的复杂度以

统计学习方法-李航 第一章

第一章 统计学习方法概论 学习:如果一个系统能够通过执行某个过程改进它的性能,这就是学习 监督学习:从训练数据集中学习模型,对测试数据进行预测 回归问题:输入变量与输出变量均为连续变量的预测问题 分类问题:输出变量为有限个离散变量的预测问题 标注问题:输入变量与输出变量均为变量序列的预测问题 损失函数:度量预测错误的程度 经验风险:训练数据集的平均损失 期望风险:损失函数的期望值 根据大数定律,当样本容量N趋于无穷时,经验风险趋于期望风险 泛化能力:指由该方法学习到的模型对未知数据的预测能力 过

自然语言处理简明教程——序言、第一章

序言: 1.1自然语言与人工语言的区别: (1)自然语言充满歧义,而人工语言的歧义是可以控制的 (2)自然语言的结构复杂多样,而人工语言的结构相对简单 (3)自然语言的语义表达千变万化,迄今还没有一种简单而通用的途径来描述它,而人工语言的语义则可以由人来直接定义 (4)自然语言的结构和语义之间有着千丝万缕的.错综复杂的联系,一般不存在一一对应的同构关系,而人工语言则常常可以把结构和语义分别进行处理,人工语言的结构和抑 郁之间有着整齐的一一对应的同构关系 自然语言的这些独特性质,使得自然语言处理成