"Blessing of Dimisionality: High Dimensional Feature and Its Efficient Compression for Face Verification"学习笔记

这是一篇关于如何使用高维度特征在人脸验证中的文章,作者以主要LBP为例子,论述了高维特征和验证性能存在着正相关的关系,即人脸维度越高,验证的准确度就越高。由于那时候没有用DeepLearning在LAWF上就能达到很高的精度,受到了很多人的关注。而有些开源库已经实现了这篇文章的特征提取方法,例如dlibgithub的开源项目。注意他们只是实现了高维特征的提取,并没有实现降维的算法。接下来总结一下学习的笔记。

算法的主要内容和步骤如下:首先.提取高维特征;接着.学习降维矩阵;提取低纬度特征。

1.提取高维特征

如图下所示,提取高维特征的基本思路为:

  a.检测人脸的对齐点(Landmarks,如图所示的黄色十字点);Landmark是刻画人脸的重要表征,因此准确的检测它们,并在这些点上提取相应的特征是非常有利于人脸识别的。

  b.对人脸图像构造若干层(4-5层不等)金字塔图像(即多尺度缩放人脸),在每层图像上采用不同数量的对齐点(如下图所示,一般不考虑人脸外围的Landmarks(背景的影响较大),而是使用人脸内部的Landmarks(更具代表人脸特征))

  c.将各层提取得到的特征,按照顺序拼接起来便得到高维度的金字塔LBP特征。

  具体的实现请参考例如dlibgithub的开源项目。选取的Landmarks和文章略有不同。如此下来,高维度的特征向量X的维度可以达到非常高的维度,10k-100k不等。而降低维度更有利于分类器的学习和距离的比较。接下来就是如何学习一个有效的降维矩阵B,使得降维后的特征向量Y=BX。

2.学习降维矩阵

  降维矩阵B的学习思路非常的简单,如下图所示,学习的步骤如下:

  学习阶段

  a. 假设已经采集了若干个人的N张图片提取得到的高维度集合\( X=\left [ x_{1},x_{2},...,x_{N} \right ] \)。

  b. 对\(  X \)利用PCA降维度,再用监督的子空间学习得到相应的特征集合\( Y=\left [ y_{1},y_{2},...,y_{N} \right ] \)。

   c. 利用数据\(  X ,Y\),最优化以下的目标函数,得到最优的变换矩阵B:

\(\lim_{R,B} {\left | R^{T}Y-B^{T}X \right |_{2}^{2}} + \lambda \left | B \right |_{1} \quad  s.t. R^{T}R=I\)

   求解这个目标函数的最优参数R和B,得到最优的R和B。求解的过程也很常用的手段,即固定R求解B,固定B求解R,如此迭代多次就能达到收敛。

3. 提取低纬度特征

  如上图所示,提取低纬度特征的步骤如下:

  a. 对于测试图片,参照1.提取高维特征提取特征\(x_{t}\)。

  b. 利用变换矩阵\(B\),对\(x_{t}\)降维,得到\(y_{t} = B x_{t}\)。

参考论文:

[1].Dong Chen, Xudong Cao, Fang Wen, Jian Sun. Blessing of Dimensionality: High-dimensional Feature and Its Efficient Compression for Face Verification. Computer Vision and Pattern Recognition (CVPR), 2013.

时间: 2024-08-27 13:47:51

"Blessing of Dimisionality: High Dimensional Feature and Its Efficient Compression for Face Verification"学习笔记的相关文章

ufldl学习笔记与编程作业:Feature Extraction Using Convolution,Pooling(卷积和池化抽取特征)

ufldl出了新教程,感觉比之前的好,从基础讲起,系统清晰,又有编程实践. 在deep learning高质量群里面听一些前辈说,不必深究其他机器学习的算法,可以直接来学dl. 于是最近就开始搞这个了,教程加上matlab编程,就是完美啊. 新教程的地址是:http://ufldl.stanford.edu/tutorial/ 学习链接: http://ufldl.stanford.edu/tutorial/supervised/FeatureExtractionUsingConvolution

Git学习笔记(6)——Bug和Feature分支

本文主要记录了通过Git来调试Bug和添加新的功能,也就是Bug分支和Feature分支,以及分支的推送. Bug分支 通过Git,我们可以为每个Bug建立一个分支,Bug修复后,合并分支,然后将临时分支删除. 当有Bug的时候,想创建一个分支bug-101来修复它,如果,当前正在dev上进行的工作还没有完成,不能提交,而且,我们必须马上解决bug,这时,我们借助Git提供的stash功能,可以把当前工作现场“储藏”起来,等以后恢复现场后继续工作. [email protected]:~/joe

读paper笔记

转载注明来自cnblog:sciencefans 由于一些原因,这两天要复习20篇paper.做好计划就趁热打铁,先复习一下去年刚接触到PR读的第一篇<Blessing of Dimensionality: High-dimensional Feature and Its Efficient Compression for Face Verification > 这篇文是MSRA的sunjian组发在CVPR13上的.下面直接跳过intro和related work. 首先介绍了high-di

2014年年记 version_0.2

本文禁止任何爬虫爬取!来源:http://www.cnblogs.com/sciencefans/ 一直都持有一个观点,思考是最佳的学习途径(当然信息的获取是必不可少的),就像神经网络里,看书就是训练set的训练,思考则是最重要的求梯度BP的过程.2014年是一个神奇的一年,在这一年中发生了很多事情,收获到了很多,学习到了很多.但是一直没有时间好好写一写,反思一下,这是最大的遗憾了.现在终于放假了,有时间好好思考一下了. 一.感恩          2014年是一个充满情义的一年.在这一年里我的

【王晓刚】深度学习在图像识别中的研究进展与展望

深度学习是近十年来人工智能领域取得的最重要的突破之一.它在语音识别.自然语言处理.计算机视觉.图像与视频分析.多媒体等诸多领域都取得了巨大成功.本文将重点介绍深度学习在物体识别.物体检测.视频分析的最新研究进展,并探讨其发展趋势. 1. 深度学习发展历史的回顾 现有的深度学习模型属于神经网络.神经网络的历史可追述到上世纪四十年代,曾经在八九十年代流行.神经网络试图通过模拟大脑认知的机理,解决各种机器学习的问题.1986 年Rumelhart,Hinton 和Williams 在<自然>发表了著

人脸识别必读的N篇文章

一,人脸检测/跟踪 人脸检测/跟踪的目的是在图像/视频中找到各个人脸所在的位置和大小:对于跟踪而言,还需要确定帧间不同人脸间的对应关系. 1, Robust Real-time Object Detection. Paul Viola, Michael Jones. IJCV 2004. 入选理由: Viola的人脸检测工作使得人脸检测真正变得实时可用.他们发表了一系列文章,这篇是引用率最高的一篇. 2, Fast rotation invariant multi-view face detec

人脸文章与数据库

作者:风雨兼程链接:https://zhuanlan.zhihu.com/p/22591740来源:知乎著作权归作者所有.商业转载请联系作者获得授权,非商业转载请注明出处. 一.人脸检测/跟踪 人脸检测/跟踪的目的是在图像/视频中找到各个人脸所在的位置和大小:对于跟踪而言,还需要确定帧间不同人脸间的对应关系. 1.Robust Real-time Object Detection. Paul Viola, Michael Jones. IJCV 2004. 入选理由: Viola的人脸检测工作使

百度图像搜索探秘

源地址:http://blog.sina.com.cn/s/blog_6ae183910101gily.html 昨天,百度上线了新的相似图(similar image search)搜索,试了风景.人物.文字等不同类型query的效果,感觉效果非常赞.尤其对于人物搜索,返回的结果在颜色.以及姿态方面具有非常大的相似性.特别是在输入某个pose的美女图片时,会搜到一系列相近pose的美女图片,真的是宅男之福啊.本着娱乐精神,贴一个搜索结果供大家yy. 我们知道这个产品底层的技术是余凯老师领导的百

转:无监督特征学习——Unsupervised feature learning and deep learning

http://blog.csdn.net/abcjennifer/article/details/7804962 无监督学习近年来很热,先后应用于computer vision, audio classification和 NLP等问题,通过机器进行无监督学习feature得到的结果,其accuracy大多明显优于其他方法进行training.本文将主要针对Andrew的unsupervised learning,结合他的视频:unsupervised feature learning by A