生成模型与判别模型

摘要：

　　1.定义

　　2.常见算法

　　3.区别

　　4.优缺点

内容：

1.定义

　　1.1 生成模型：

　　在概率统计理论中, 生成模型是指能够随机生成观测数据的模型，尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布（joint probability distribution）。在机器学习中，生成模型可以用来直接对数据建模（例如根据某个变量的概率密度函数进行数据采样），也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯准则形成  （参考自：中文wiki）

　　1.2 判别模型：判别模型是一种基于概率理论的方法，由数据直接学习决策函数Y=f(X)或者条件概率分布P(Y|X)作为预测的模型，即判别模型。基本思想是有限样本条件下建立判别函数，不考虑样本的产生模型，直接研究预测模型。

2.常见算法

　　2.1 生成模型：

　　典型的生成模型包括:

• 混合高斯模型和其他混合模型
• 隐马尔可夫模型（HMM）
• 随机上下文无关文法
• 朴素贝叶斯分类器(NB)
• AODE分类器
• 潜在狄利克雷分配模型(LDA)
• 有限波尔兹曼机

　　2.2 判别模型

　　典型的判别模型包括：

• 感知机
• 逻辑回归
• 支持向量机
• k近邻
• 决策树

3.区别

　　https://zh.wikipedia.org/wiki/%E5%88%A4%E5%88%AB%E6%A8%A1%E5%9E%8B

　　http://dataunion.org/8743.html

　　http://blog.csdn.net/zouxy09/article/details/8195017