认识高斯分布

今天,我要介绍我们早就知道的一种分布,它叫做高斯分布。高斯分布在概率论中算是比较核心的一种分布了,而在机器学习中,高斯分布也随处可见,比如单高斯模型高斯混合模型高斯过程等等,它们都是基于高斯分布的。作为理解连续性随机变量的基础和深入理解在机器学习中的广泛应用,高斯分布是十分有必要学习的。

高斯分布又叫做正态分布,高斯分布概率密度函数的函数形式是由德国著名的天才数学家、统计学家、物理学家和天文学家高斯推导出。与高斯分布相关的一个重要定理是中心极限定理,它的内容为:任何分布的抽样分布当样本足够大时,其渐进分布都是高斯分布。高斯分布的密度函数为

其中数学期望值等于位置参数,决定了分布的位置,其标准差等于尺度参数,决定了分布的幅度。高斯分布的概率密度函数曲线呈钟形,因此又称为钟形曲线,通常所说的标准正态分布就是时的高斯分布。接下来进入本文最重要的环节---高斯分布的概率密度函数推导。有一篇不错的论文,讲述了高斯分布的完整推导过程。

论文链接:http://www.doc88.com/p-0814329057281.html

接下来根据高斯分布的概率密度函数来推导期望。过程如下

有关高斯分布的文章:http://www.itongji.cn/article/111313452012.html

时间: 2024-08-29 14:00:49

认识高斯分布的相关文章

异常检测(Anomaly detection): 异常检测算法(应用高斯分布)

估计P(x)的分布--密度估计 我们有m个样本,每个样本有n个特征值,每个特征都分别服从不同的高斯分布,上图中的公式是在假设每个特征都独立的情况下,实际无论每个特征是否独立,这个公式的效果都不错.连乘的公式表达如上图所示. 估计p(x)的分布问题被称为密度估计问题(density estimation)

理解高斯分布

无意中在网上看到的一篇博文,记录一下:http://www.alanzucconi.com/2015/09/09/understanding-the-gaussian-distribution/ 自然界的许多现像看似是随机的,实际上却不一定.比如树和草地在以湖为中心的地方会更多一点,又比如一个屋子里人的身高. 高斯分布可从连续分布中推导而来. 文中举了两个例子,从一个bean machine中得到豆子落的位置符合二项分布,而当n取无限大时,二项分布就成了高斯分布. 这就解释了为什么很多看似随机的

中心极限定理;使用均匀分布产生高斯分布

如果我们产生N个[-1,1]之间均匀分布的随机变量,那么这N个随机变量的均值的期望当然应该是0:但是样本均值几乎不可能是0,而是在0左右分布,且越靠近0的概率越大. // pseudo code for 1000 gaussian distribution random variable, // use uniform distribution random variable for(int i = 0; i < 1000; i++) { var sum = 0; for(int j = 0;

Matlab高斯分布输入的PID控制

一.matlab的随机数组 s=1:1:500;in = 0.1*randn(1,500)+1;plot(s,in,'*'); hist(in,20); 二.PID控制 网上源码: clear all; close all; ts=0.001; sys=tf(5.235e005,[1,87.35,1.047e004,0]);%建立传递函数 dsys=c2d(sys,ts,'z');%将连续的时间模型转换成离散的时间模型,采样时间是ts=0.001 [num,den]=tfdata(dsys,'v

条件高斯分布和卡尔曼滤波

这段时间有个卡尔曼滤波的作业,正好在刑波(Eric Xing)的概率图模型课程上也谈到了这一点,所以从这个角度来阐述卡尔曼滤波,同时介绍其中用到的条件高斯分布的推导过程.这一推导过程来自于<模式识别与机器学习>(PRML). 1. 条件高斯分布 本节要解决的问题是已知,,计算. 按照的划分方法,可以将均值和协方差矩阵分块如下所示.(其中协方差矩阵是对称的) 为简单起见,记,同时分块为 多维高斯分布可表示为 计算 该式同时可表示为 也服从高斯分布,所以我们只需计算均值和协方差矩阵即可.由上式可知

异常检测: 应用多元高斯分布进行异常检测

多元高斯(正态)分布 多元高斯分布有两个参数u和Σ,u是一个n维向量,Σ协方差矩阵是一个n*n维矩阵.改变u与Σ的值可以得到不同的高斯分布. 参数估计(参数拟合),估计u和Σ的公式如上图所示,u为平均值,Σ为协方差矩阵 使用多元高斯分布来进行异常检测 首先用我我们的训练集来拟合参数u和Σ,从而拟合模型p(x) 拿到一个新的样本,使用p(x)的计算公式计算出p(x)的值,如果p(x)<ε就将它标记为一个异常点 当我们对上图中那个绿色的点进行异常检测时,这些红色的点服从多元高斯正态分布(x1与x2正

异常检测(Anomaly detection): 高斯分布(正态分布)

高斯分布 高斯分布也称为正态分布,μ为平均值,它描述了正态分布概率曲线的中心点.σ为标准差,σ2为方差,σ描述了曲线的宽度.在中心点附近概率密度大,远离中心点概率密度小. 高斯分布图 概率曲线下方的面积为1(积分为1),概率和为1.μ为中心点,σ为宽度.σ小时图形更尖更高,σ大时图形更矮更宽,因为面积不变为1,μ变化时表示中心点的转移. 参数估计 假设我们猜测每个样本xi服从某种分布(如正态分布),我不知道这些参数(μ,σ2)的值是多少. 参数估计=>给定数据集,希望能估算出(μ,σ2)的值 如

老笔记整理七:高斯分布解决随机圆分布问题

好久没有写空间了,今天在写一个页面的时候遇到了之前从来没有遇到过的问题.今天有主要问题有两个.     1.我想在背景上生成随机圆:    2.是基于上面产生的问题. 首先,通过JS生成DIV,给DIV 加DSS让他成为一个圈.这个问题不大,大概半个小时就写出来了. div结构也不复杂 然后运行结果 大家 看出问题了吗?是的,产生的圆不怎么会在当中.想想也是,既然是随即生成的那么应该是平均分布的. 但是这并不是我想要的结果.我之所以要这些圆圈是为了让背景好看点,如果看不到那还有什么意思?但是又不

数字信号处理C语言 ------均匀分布和高斯分布随机数

环境:QT5+VS2013编译 一.均匀分布 double uniform(double a,double b,long int *seed)a下限,b上限,seed随机种子. main.cpp #include <QCoreApplication> #include <math.h> #include <stdio.h> #include <stdlib.h> #include <uniform.c> int main(int argc, ch

Matlab 高斯分布 均匀分布 以及其他分布 的随机数

Matlab 高斯分布 均匀分布 以及其他分布 的随机数 betarnd 贝塔分布的随机数生成器 binornd 二项分布的随机数生成器 chi2rnd 卡方分布的随机数生成器 exprnd 指数分布的随机数生成器 frnd f分布的随机数生成器 gamrnd 伽玛分布的随机数生成器 geornd 几何分布的随机数生成器 hygernd 超几何分布的随机数生成器 lognrnd 对数正态分布的随机数生成器 nbinrnd 负二项分布的随机数生成器 ncfrnd 非中心f分布的随机数生成器 nct