基本的概率分布

1. 欧氏距离(Euclidean Distance)       欧氏距离是最易于理解的一种距离计算方法,源自欧氏空间中两点间的距离公式.(1)二维平面上两点a(x1,y1)与b(x2,y2)间的欧氏距离:(2)三维空间两点a(x1,y1,z1)与b(x2,y2,z2)间的欧氏距离:(3)两个n维向量a(x11,x12,-,x1n)与 b(x21,x22,-,x2n)间的欧氏距离:(4)也可以用表示成向量运算的形式: python中的实现: 方法一: import numpy as np x=

引言 我感觉学习机器学习算法还是要从数学角度入门才是唯一正道,机器学习领域大牛Michael I. Jordan给出的机器学习定义是,"A field that bridge computation and statistics,with ties to information theory, signal processing, algorithm, control theory and optimization theory".所以对于机器学习的门徒来说,我认为将计算机和统计理论有

喝酒游戏,概率分布和卷积 我对能算概率的东西一向情有独钟,包括喝酒时候的一个小小游戏. 桌子上放个公杯,一桌人轮流摇骰子,一次摇两个. 如果两个骰子结果数字和Y不是{7,8,9}中的任何一个,此玩家算过,不用喝,到下一个人摇: 但是如果Y=7,该玩家向公杯中随意倒酒,可多可少,并继续摇:如果Y=8,公杯的酒喝一半,继续摇:如果Y=9,哈哈,那惨了,全喝,继续摇. 我上大学的时候,同学们把这个游戏亲切地称为“789”. 显然,游戏的参与者会很关心两个骰子数字(设为X1和X2)和是7,8或9的概率.

1.常见离散变量的概率分布 2.常见连续变量的概率分布: 共轭分布: 伯努利分布和Beta分布互为共轭: Beta 分布 多项分布和狄利克雷分布互为共轭 拉普拉斯分布:待续

1.二项分布(Binomial Distribution): 参考wiki,在统计学和概率学中,二项分布是n个独立的0/1(是/非)试验中“成功次数”的离散概率分布,其中每次成功的概率记为p.这种单次成功/失败的试验又称为伯努利分布,事实上,当n被归一化为1时,这种分布被称为伯努利分布. 如果一个随机变量X是服从参数为n,p的二项分布,我们记为X~b(n,p),n次试验中恰好成功k次的概率质量函数(离散随机变量在各个取值上的概率)是: 二项分布的期望和方差如下:    2.多项分布: 多项分布是

1.f 散度(f-divergence) KL-divergence 的坏处在于它是无界的.事实上KL-divergence 属于更广泛的 f-divergence 中的一种. 如果P和Q被定义成空间中的两个概率分布,则f散度被定义为: 一些通用的散度,如KL-divergence, Hellinger distance, 和total variation distance,都是f散度的一种特例.只是f函数的取值不同而也. 在python中的实现 : import numpy as np imp

R编程语言已经成为统计分析中的事实标准.但在这篇文章中,我将告诉你在Python中实现统计学概念会是如此容易.我要使用Python实现一些离散和连续的概率分布.虽然我不会讨论这些分布的数学细节,但我会以链接的方式给你一些学习这些统计学概念的好资料.在讨论这些概率分布之前,我想简单说说什么是随机变量(random variable).随机变量是对一次试验结果的量化. 举个例子,一个表示抛硬币结果的随机变量可以表示成 Python 1 2 X = {1 如果正面朝上, 2 如果反面朝上} 随机变量是

1. 随机变量的概念 顾名思义,随机变量就是“其值随机会而定”的变量.随机变量的反面是“确定性变量”,即其值遵循某种严格的规律的变量,比如从北京到上海的距离.但是从绝对意义上讲,许多通常视为确定性变量的量,本质上都有随机性,只是由于随机性干扰不大,以至在所要求的精度之内,不妨把经作为确定性变量来处理. 根据随机变量其可能取的值的全体的性质,可以把随机变量分为2大类,一类是离散型随机变量,比如检验100件产品中的次品个数:一类是连续型随机变量,比如一个灯泡的寿命.但是连续型变量这个概念只是数学上的

1 随机变量的概念 顾名思义,随机变量就是“其值随机会而定”的变量.随机变量的反面是“确定性变量”,即其值遵循某种严格的规律的变量,比如从北京到上海的距离.但是从绝对意义上讲,许多通常视为确定性变量的量,本质上都有随机性,只是由于随机性干扰不大,以至在所要求的精度之内,不妨把经作为确定性变量来处理. 根据随机变量其可能取的值的全体的性质,可以把随机变量分为2大类,一类是离散型随机变量:一类是连续型随机变量.但是连续型变量这个概念只是数学上的抽象,因为任何量都有单位,都只能在该单位下量到一定的精度

用实体-联系的观点理解概率: 每个变量都要与一个事件关联,变量依赖于事件的存在而存在,两个实体是一对一的联系: 每个事件都要与一个试验关联,事件也依赖于试验的存在而存在,两个实体是多对一的联系: 设变量的取值集合为S,如果在S上定义了一张映射表,这张映射表满足概率分布的性质,那么就称这个变量是一个定义了概率分布的随机变量: 随机变量和概率分布是完全独立的两个实体,它们独立存在不依赖于对方.但是随机变量可以服从一个概率分布,两个实体是多对一的联系: 任何实体都可以是信息: 如果给定一个实体E,如果