概率论与数理统计小记

https://www.cnblogs.com/LittleHann/p/11133457.html 再谈线性回归函数分析,从概率论与数理统计角度看线性回归参数估计

EX、DX、Cov(X, Y)、相关系数、分布(伯努利分布、泊松分布、均匀分布、指数分布、正态分布、标准正态分布)

随机变量 互相独立 是 不线性相关 的充分不必要条件

https://www.cnblogs.com/LittleHann/p/9569708.html 大数定律、中心极限定理

定律与定理:

伯努利大数定律(1713(n足够大时,伯努利实验中事件发生频率依概率1收敛于事件期望。收敛意为小幅波动)

条件:特指伯努利实验(伯努利实验中各随机变量独立同分布,且均值、方差存在)

说明了频率具有稳定性

*辛钦大数定律(n足够大时,对于独立同分布的随机变量Xi,若Xi均值存在(方差可不存在),则样本均值趋向于总体均值/期望)

条件:各随机变量独立同分布、均值存在(方差可不存在)

为用样本均值来估计总体均值提供了理论依据

伯努利大数定律是此定律的一个特例

切比雪夫大数定律(当n足够大时,对于互不线性相关的随机变量Xi,若Xi均值和方差存在且方差一致有界,这些随机变量的均值 趋向于 各随机变量的期望的均值)

条件:随机变量两两不线性相关(不要求独立同分布,故条件更弱)、EXi存在、DXi存在且DXi≤c

辛钦大数定律是此定律的一个特例

棣莫弗-拉普拉斯中心极限定理,也称二项分布的正态近似(1733)(n足够大时,伯努利实验中事件发生次数近似于正态分布)

条件:特指伯努利实验(伯努利实验中各随机变量是独立同分布的,且均值、方差存在)

此定理的作用在于很多时候没法直接计算二项分布的分布/概率,若n够大则此时可用正态分布近似计算。实际上,若p≤0.1,则二项分布也近似于泊松分布,即也可用泊松分布近似计算。

*列维-林德伯格中心极限定理(1920)(n足够大时,对于独立同分布的随机变量Xi,若Xi均值和方差存在,则ΣXi近似于正态分布)

条件:各随机变量独立同分布,且均值、方差存在

当n足够大时,对于任意独立同分布可用正态分布近似计算概率。

微观少量样本随机、宏观大数统计意义上的正态有序

棣莫弗-拉普拉斯中心极限定理是本定理的一个特例

总结:大数定律是说样本够多时,样本均值会收敛于总体均值(但样本均值的分布是怎样的不知道);中心极限定理是说样本够多时,样本均值趋近于正态分布(刚好弥补了大数定律不知分布的缺陷)

https://blog.csdn.net/randy_01/article/details/84498713 统计学笔记

期望、方差、概率密度函数、边缘概率密度函数、联合概率密度函数、分布函数、联合分布函数

https://blog.csdn.net/randy_01/article/details/84633530 统计学笔记 不等式

几个概率不等式:

马尔可夫不等式

切比雪夫不等式:用于衡量随机变量与其期望的偏离程度的上限,上限与方差成正比。也说明了方差是随机变量取值与其中心位置的偏离程度的一种衡量指标。

Mill不等式

几个期望不等式:

原文地址:https://www.cnblogs.com/z-sm/p/11540031.html

时间: 2024-09-28 05:59:24

概率论与数理统计小记的相关文章

【概率论与数理统计】小结2 - 随机变量概述

注:对随机变量及其取值规律的研究是概率论的核心内容.在上一个小结中,总结了随机变量的概念以及随机变量与事件的联系.这个小结会更加深入的讨论随机变量. 随机变量与事件 随机变量的本质是一种函数(映射关系),在古典概率模型中,“事件和事件的概率”是核心概念:但是在现代概率论中,“随机变量及其取值规律”是核心概念. 随机变量与事件的联系与区别 小结1中对这两个概念的联系进行了非常详细的描述.随机变量实际上只是事件的另一种表达方式,这种表达方式更加形式化和符号化,也更加便于理解以及进行逻辑运算.不同的事

【概率论与数理统计】小结1 - 基本概念

注:其实从中学就开始学习统计学了,最早的写"正"字唱票(相当于寻找众数),就是一种统计分析的过程.还有画直方图,求平均值,找中位数等.自己在学校里并没有完整系统的学习过概率论和数理统计,直到在工作中用到,才从最初的印象中,逐渐把这门学科与整个数学区分开来.自从认识到这门学科在自己从事的工作(数据分析)中所处的重要地位,真没少花时间在这方面的学习上.从最初的p值的含义,到各种分布,假设检验,方差分析...有的概念看过很多遍,但还是没有理解透彻:有的看过,长时间不用,又忘记了.总之,这一路

【概率论与数理统计】小结3 - 一维离散型随机变量及其Python实现

注:上一小节对随机变量做了一个概述,这一节主要记录一维离散型随机变量以及关于它们的一些性质.对于概率论与数理统计方面的计算及可视化,主要的Python包有scipy, numpy和matplotlib等. 以下所有Python代码示例,均默认已经导入上面的这几个包,导入代码如下: import numpy as np from scipy import stats import matplotlib.pyplot as plt 0.  Python中调用一个分布函数的步骤 scipy是Pytho

概率论与数理统计图解.tex

\documentclass[UTF8,a1paper,landscape]{ctexart} \usepackage{tikz} \usepackage{amsmath} \usepackage{amssymb} \usepackage{geometry} \geometry{top=5cm,bottom=5cm,left=5cm,right=5cm} \usepackage{fancyhdr} \pagestyle{fancy} \begin{document} \title{\Huge 概

概率论和数理统计的总结(一)

迄今为止,看得最为亲切的一本概率论与数理统计方面的书莫过于陈希孺先生的这本,陈先生用一种娓娓道来的语气把很多原本复杂的内容讲得那么清晰,而且并不是就着这一点知识而讲,能结合前后知识体系一起介绍. 这本书名为<概率论与数理统计>,主要也是讲两大知识体系,前半部分(前三章)讲概率论,后半部分(后三章)讲数理统计. 就知识点来看,第一章讲事件的概率,包括什么是概率(概率是什么),古典概率计算以及事件的计算.条件概率和概率的独立性.在这一章里,事件是整个概率的基础,如何定义概率也是整个概率论知识体系演

概率论与数理统计学习笔记

第一章 随机事件与概率 第二章 随机变量及其分布 第三章 多维随机变量及其分布 第四章 大数定律与中心极限定理 第五章 统计量及其分布 第六章 参数估计 第七章 假设检验 第八章 方差分析与回归分析 第一章 随机事件与概率 1.1随机事件及其运算 概率论与数理统计研究的对象是随机现象. 概率论是研究随机现象的模型(即概率分布),数理统计是研究随机现象的数据收集与处理. 随机现象: 在一定的条件下,并不总是出现相同结果的现象称为随机现象 样本空间:随机现象的一切可能基本结果组成的集合称为样本空间

概率论与数理统计图解

\documentclass[UTF8,a1paper,landscape]{ctexart}%UTF8,ctexart中文支持,landscape横向版面 \usepackage[svgnames]{xcolor} \usepackage{tikz}%画图 \usetikzlibrary{arrows,shapes,positioning} \tikzstyle arrowstyle=[scale=1] \usepackage{geometry}%页边距设置 \geometry{top=0.5

概率论与数理统计复习

概率论与数理统计复习            第一章  概率论的基本概念 一.基本概念 随机试验E:(1)可以在相同的条件下重复地进行;(2)每次试验的可能结果不止一个,并且能事先明确试验的所有可能结果;(3)进行一次试验之前不能确定哪一个结果会出现. 样本空间S: E的所有可能结果组成的集合.  样本点(基本事件):E的每个结果. 随机事件(事件):样本空间S的子集. 必然事件(S):每次试验中一定发生的事件. 不可能事件(F):每次试验中一定不会发生的事件. 二. 事件间的关系和运算 1.AB

【总目录】——概率论与数理统计及Python实现

注:这是一个横跨数年的任务,标题也可以叫做“从To Do List上划掉学习统计学”.在几年前为p值而苦恼的时候,还不知道Python是什么:后来接触过Python,就喜欢上了这门语言.统计作为数据科学的基础,想要从事这方面的工作,这始终是一个绕不过去的槛. 其实从中学就开始学习统计学了,最早的写"正"字唱票(相当于寻找众数),就是一种统计分析的过程.还有画直方图,求平均值,找中位数等.自己在学校里并没有完整系统的学习过概率论和数理统计,直到在工作中用到,才从最初的印象中,逐渐把这门学