自然语言处理之LSA LSA(Latent Semantic Analysis), 潜在语义分析.试图利用文档中隐藏的潜在的概念来进行文档分析与检索,能够达到比直接的关键词匹配获得更好的效果. LSA的核心思想 假设有 nn 篇文档,这些文档中的单词总数为 mm (可以先进行分词.去词根.去停止词操作),我们可以用一个 m?nm?n的矩阵 XX 来表示这些文档,这个矩阵的每个元素 XijXij 表示第 ii 个单词在第 jj 篇文档中出现的次数(也可用tf-idf值).下文例子中得到的矩阵见下图

http://blog.csdn.net/warmyellow/article/details/5454943 一． LDA算法概述: 线性判别式分析(Linear Discriminant Analysis, LDA),也叫做Fisher线性判别(Fisher Linear Discriminant ,FLD),是模式识别的经典算法,它是在1996年由Belhumeur引入模式识别和人工智能领域的.性鉴别分析的基本思想是将高维的模式样本投影到最佳鉴别矢量空间,以达到抽取分类信息和压缩特征空间维

本文原创, 转载请注明出处:http://www.cnblogs.com/gufeiyang/p/5020819.html 本文目录: 1.Gamma函数 2.Beta/Dirichlet分布 3.LDA文本建模 4.吉普斯抽样概率公式推导 1.Gamma函数 T(x)= ∫ tx-1 e-tdt    T(x+1) = xT(x) 若x为整数,则有 T(n) = (n-1)! 2.Dirichlet分布 这里抛出两个问题: 问题1: (1) X1, X2......Xn 服从Uniform(0

http://blog.csdn.net/pipisorry/article/details/42560331 LSA and SVD LSA(隐性语义分析)的目的是要从文本中发现隐含的语义维度-即"Topic"或者"Concept".我们知道,在文档的空间向量模型(VSM)中,文档被表示成由特征词出现概率组成的多维向量,这种方法的好处是可以将query和文档转化成同一空间下的向量计算相似度,可以对不同词项赋予不同的权重,在文本检索.分类.聚类问题中都得到了广泛应用

主要是参考了文章 http://www.cnblogs.com/LeftNotEasy/archive/2011/01/08/lda-and-pca-machine-learning.html http://www.cnblogs.com/jerrylead/archive/2011/04/21/2024384.html http://www.cnblogs.com/jerrylead/archive/2011/04/21/2024389.html 上面的三篇博客总结的已经非常好: 这里再将最重

SPF:链路状态路由算法.基本用于OSPF中,但是要求路由器路由数据库足够大,因为链路状态信息包括很多内容,这也是一个缺点. OSPF是一种内部网关协议(IGP) OSPF路由协议是一种典型的链路状态(Link-state)的路由协议,一般用于同一个路由域内.在这里,路由域指一个自治区域(AS)在这个AS中,所有的OSPF路由器都维护一个相同的描述这个AS结构的数据库,该数据库中存放的是路由域中相应链路的状态信息,OSPF路由器正是通过这个数据库计算出其OSPF路由表的. 作为一种链路状态的路由

Latent semantic analysis (LSA) is a technique in natural language processing, in particular distributional semantics, of analyzing relationships between a set of documents and the terms they contain by producing a set of concepts related to the docum

http://blog.csdn.net/pipisorry/article/details/45307369 LDA limitations: what's next? Although LDA is a great algorithm for topic-modelling, it still has some limitations, mainly due to the fact that it's has become popular and available to the mass

使用线性模型进行回归学习,但若要做分类任务该怎么办呢?答案蕴含在广义线性模型中:只需要找一个单调可微的函数将分类任务的真实标记y与线性回归模型的预测值联系起来. 对数几率函数是一个常用的替代函数: 该函数的图像如下图(来源:维基百科): 对数几率函数又称作"sigmoid函数",将z值转化为一个接近0或1的y值. 二.逻辑会回参数求解过程 三.Logistic Regression的适用性 1) 可用于概率预测,也可用于分类. 并不是所有的机器学习方法都可以做可能性概率预测(比如SVM