Dirichlet分布深入理解

Dirichlet分布

我们把Beta分布推广到高维的场景，就是Dirichlet分布。Dirichlet分布定义如下

Dirichlet分布与多项式分布共轭。多项式分布定义如下

共轭关系表示如下

Dirichlet-MultCount共轭理解

上述共轭关系我们可以这样理解，先验Dirichlet分布参数为α，多项式分布实验结果为m，则后验Dirichlet分布的参数为α+m。m为n维向量，表示实验中各种结果出现的次数。例如投掷骰子的试验中，m为6维向量，6个分量分别表示出现1点到6点的次数。

一般来说，我们使用贝叶斯定理推断Dirichlet-MultCount共轭关系。对于参数为α的Dirichlet分布，可以用如下公式表示

这里，表达式如下

进行了多项式分布实验后，得到结果n后，后验分布为

参数n与α确定后，后验分布的期望为

原文地址：https://www.cnblogs.com/coshaho/p/9740168.html

时间： 2024-11-08 22:19:14

Dirichlet分布深入理解的相关文章

LDA-math-认识Beta/Dirichlet分布

http://cos.name/2013/01/lda-math-beta-dirichlet/#more-6953 2. 认识Beta/Dirichlet分布2.1 魔鬼的游戏—认识Beta 分布统计学就是猜测上帝的游戏,当然我们不总是有机会猜测上帝,运气不好的时候就得揣度魔鬼的心思.有一天你被魔鬼撒旦抓走了,撒旦说:“你们人类很聪明,而我是很仁慈的,和你玩一个游戏,赢了就可以走,否则把灵魂出卖给我.游戏的规则很简单,我有一个魔盒,上面有一个按钮,你每按一下按钮,就均匀的输出一个[0,1]之

机器学习的数学基础（1）--Dirichlet分布

机器学习的数学基础(1)--Dirichlet分布这一系列(机器学习的数学基础)主要包括目前学习过程中回过头复习的基础数学知识的总结. 基础知识:conjugate priors共轭先验共轭先验是指这样一种概率密度:它使得后验概率的密度函数与先验概率的密度函数具有相同的函数形式.它极大地简化了贝叶斯分析. 如何解释这句话.由于 P(u|D) = p(D|u)p(u)/p(D) (1.0式) 其中D是给定的一个样本集合,因此对其来说p(D)是一个确定的值,可以理解为一个常数.P(u|D)是

（转）机器学习的数学基础（1）--Dirichlet分布

转http://blog.csdn.net/jwh_bupt/article/details/8841644 这一系列(机器学习的数学基础)主要包括目前学习过程中回过头复习的基础数学知识的总结. 基础知识:conjugate priors共轭先验共轭先验是指这样一种概率密度:它使得后验概率的密度函数与先验概率的密度函数具有相同的函数形式.它极大地简化了贝叶斯分析. 如何解释这句话.由于 P(u|D) = p(D|u)p(u)/p(D) (1.0式) 其中D是给定的一个样本集合,因此对其来说

Beta分布和Dirichlet分布

在<Gamma函数是如何被发现的?>里证明了\begin{align*} B(m, n) = \int_0^1 x^{m-1} (1-x)^{n-1} \text{d} x = \frac{\Gamma (m) \Gamma (n)}{\Gamma (m+n)} \end{align*}于是令\begin{align*} f_{m,n}(x) = \begin{cases} \frac{x^{m-1} (1-x)^{n-1}}{B(m, n)} = \frac{\Gamma (m+n)}{\G

关于狄利克雷分布的理解

作者:Thomas Wayne 链接:http://www.zhihu.com/question/26751755/answer/80931791 来源:知乎著作权归作者全部.商业转载请联系作者获得授权.非商业转载请注明出处. 近期问的人有点多,打算写一系列"简单易懂地理解XXX系列". 今天来讲一下dirichlet distribution和dirichlet process怎么回事.力求让刚開始学习的人看懂,并且我比較追求motivation.追求数学严谨性和简洁性的大神

伯努利分布、二项分布、多项分布、Beta分布、Dirichlet分布

1. 伯努利分布伯努利分布(Bernoulli distribution)又名两点分布或0-1分布,介绍伯努利分布前首先需要引入伯努利试验(Bernoulli trial). 伯努利试验是只有两种可能结果的单次随机试验,即对于一个随机变量X而言: 伯努利试验都可以表达为“是或否”的问题.例如,抛一次硬币是正面向上吗?刚出生的小孩是个女孩吗?等等如果试验E是一个伯努利试验,将E独立重复地进行n次,则称这一串重复的独立试验为n重伯努利试验.进行一次伯努利试验,成功(X=1)概率为p(0<=p<

Gamma分布于Beta分布的理解

参考文献: https://blog.csdn.net/lanchunhui/article/details/50544697 https://blog.csdn.net/lanchunhui/article/details/50540460 https://blog.csdn.net/lanchunhui/article/details/50543721 原文地址:https://www.cnblogs.com/jhc888007/p/9829315.html

（转）Gamma分布，Beta分布，Multinomial多项式分布，Dirichlet狄利克雷分布

1. Gamma函数首先我们可以看一下Gamma函数的定义: Gamma的重要性质包括下面几条: 1. 递推公式: 2. 对于正整数n, 有因此可以说Gamma函数是阶乘的推广. 3. 4. 关于递推公式,可以用分部积分完成证明: 2. Beta函数 B函数,又称为Beta函数或者第一类欧拉积分,是一个特殊的函数,定义如下: B函数具有如下性质: 3. Beta分布在介绍贝塔分布(Beta distribution)之前,需要先明确一下先验概率.后验概率.似然函数以及共轭分布的概念.

【转】狄利克雷分布

(注:只转一点介绍内容的以作备查.有兴趣同学请移步原文详阅.) Dirichlet分布可以看做是分布之上的分布.如何理解这句话,我们可以先举个例子:假设我们有一个骰子,其有六面,分别为{1,2,3,4,5,6}.现在我们做了10000次投掷的实验,得到的实验结果是六面分别出现了{2000,2000,2000,2000,1000,1000}次,如果用每一面出现的次数与试验总数的比值估计这个面出现的概率,则我们得到六面出现的概率,分别为{0.2,0.2,0.2,0.2,0.1,0.1}.现在,我们还