无需看到你的脸就能认出你——实现Beyond Frontal Faces: Improving Person Recognition Using Multiple Cues

今年年初Facebook AI Research发布了一篇名为Beyond Frontal Faces: Improving Person Recognition Using Multiple Cues的人物识别的文章。

正好公司mentor想搞一个类似的东西看看能不能做一个智能相册出来(有点像iphoto和新版的lightroom里面那个根据人的id来分子相册),于是就实现了一下。

如果你点进来只想要代码的话就不用往下看了,请直接点击:https://github.com/sciencefans/Beyond-Frontal-Faces

由于使用了定制的caffe的matlab接口,所以想要跑通还是需要折腾的~

其中feature文件夹下给出了我跑出来的test集上有脸的所有图片的特征向量和labels,可以直接训练svm或者knn跑跑看。

在我的试验中1nn(最邻近)算法居然比svm搞了快10个点。。。

转载请说明转自http://www.cnblogs.com/sciencefans/

整篇文章噱头满满,总结一下有以下贡献:

1.作者从flickr上收集了一个叫People In Photo Albums (PIPA)的数据库,其中:1)标注了人的头的位置,注意是头的位置不是脸的位置;2)有一半的人都是没有脸的;3)包含60000张图,2000多个人;4)数据库分成了三个子库,train,valid和test,互不相交。

具体的一些例子如下:

2.文章提出了一个叫Pose Invariant PErson Recognition(PIPER) 的方法,其实就是搞了109个分类器(具体哪109个后面说),用了一个线性分数叠加来做最后的得分,这个model在上述PIPA的test集上得到了83.05%的准确率,如果只看有脸的图片,准确率能够到达93.4%。这个结果超过了deepface(只有89.3%)。

3.想不出有什么别的贡献了。

一句话总结这篇文章就是:提出了一个标注了头部的数据库,想了一种方法线性叠加了109个CNN-SVM模型来获得了一个很好的identify效果。

下面具体来说一说这109个分类器:

109分类器=用人体的107个poselet(详见参考文献2)分别训练出来的107个CNN(这一步是在Imagenet模型上finetune的,并不是直接训练的)+1个global model(用整个身体来训练一个CNN,一样是finetune)+1个基于DeepFace(详见参考文献3)提出的特征的SVM分类器。

这109个分类器都是神经网络的倒数第二层(fc7)作为特征来训练出的SVM。

怎么组合这109个分类器给出的得分呢?首先计算图片的每个poselet的激活程度(得分程度),如果没有激活(得分很低),则使用global model来代替。计算公式如下:

其中Pi就是第i个poselet的svm对X的预测

Fi指的是训练集中拥有第i个poselet的人物的集合,是所有identity的子集。

得到了Pi之后,就可以计算每个分类器的权重w了。

文章使用validation集合来计算得出w,方法还是svm:

对于任意一张图j,它的第i个poselet分类器的得分是

一共有K个poselet分类器的话,一张图就一共有K+1个得分(加上global model)

这样就相当于一个图可以用一个K+1维的向量表示,用这个特征向量和来训练出一个二分类SVM(label是j是否属于y这个人)

最后每个分类器的权重就是最后这个SVM模型的权重w。

接下来就是实验结果:

然后作者又用特征做了一下聚类,得到了如下结果:

论文到这里就结束了,我觉得搞这么多分类器来做得分叠加是一个很简单暴力的想法。

复现的时候我用Zeiler网络训练了脸部和global两个model,基于caffe框架在8颗Tesla K40m上跑了整整两天。

其中global model是纯粹根据头部位置计算出的一个矩形区域,效果只做到了百分之三十多。但是脸部区域达到了和论文近似的效果——全部test集做cross validation得到了82%,只看有脸的图能达到91%。

=======================

参考文献

[1]Ning Zhang, et al, Beyond Frontal Faces: Improving Person Recognition Using Multiple Cues

[2]L. Bourdev and J. Malik. Poselets: Body part detectors trained using 3D human pose annotations. In International Conference on Computer Vision (ICCV), 2009

[3]Y. Taigman, M. Yang, M. Ranzato, and L. Wolf. DeepFace: Closing the Gap to Human-Level Performance in Face Verification. In Conference on Computer Vision and Pattern Recognition (CVPR), 2014

时间: 2024-10-15 20:42:33

无需看到你的脸就能认出你——实现Beyond Frontal Faces: Improving Person Recognition Using Multiple Cues的相关文章

灰zhu姑xiao娘mei

[写在前面] 由于根据原文改编,故事中多次出现黑学姐的片段,请学姐们见谅. 文章中涉及到的人物,由于本人很穷,均没有片酬,谢谢! 写到一半才发现原文太啰嗦了,于是改编时删减了好多,有些地方可能有语法错误,或者是逻辑上的错误,请不要太细抠. 写完后本人也觉得这篇文章很尬,所以如果觉得不好,欢迎吐槽. [正文] 从前,gg的gay友路由器女士退役了.在临走前,她把最菜的学妹叫到身边说:"乖学妹,学长回到教室以后会在电风扇下守护你.保佑你的."说完她就背着包,提着笔记本离开了.她坐在教室的角

人脸识别提取手机相册内人物充当数据集,身份识别学习(草稿)

未写完 采用C++,opencv+opencv contrib 4.1.0 对手机相册内人物opencv人脸识别,身份识别学习 最近事情多,介绍就先不介绍了 photocut.c #include "pch.h" #include <opencv2\opencv.hpp> #include <vector> #include "CameraFace.h" #include "PhotoFace.h" #include &l

新概念英语第二册01-30课(转)

lesson 1 一个私人的谈话   1.上个星期 Last week 我去了剧院.I went to the theatre.    上星期我去看戏.Last week I went to the theatre.   上星期我去看戏.     2.我有I had一个很好的座位.a very good seat.   我坐的位置很好.I had a very good seat. 我坐的位置很好.     3.那部戏The play是 was很有趣. very interesting.   那

善良无需考证

欣赏一个人 始于颜值 敬于才华 合于性格 久于善良 终于人 品 巴西著名导演沃尔特·塞勒斯正在筹备自己的新电影,一天,正为此一筹莫展的沃尔特到城市西郊办事,在火车站前的广场上遇到了一个十多岁的擦鞋小男孩.小男孩问道:"先生,您需要擦鞋吗?"沃尔特低头看了看自己脚上刚刚擦过不久的皮鞋,摇摇头拒绝了. 就在沃尔特转身走出十几步之际,忽然见到那个小男孩红着脸追上来,眼中满是祈求:"先生,我整整一天都没吃东西了,您能借给我几个钱吗?我从明天开始就多多努力擦鞋,保证一周后把钱还给您!&

支付宝刷脸——我们进入了一个怎样的刷脸时代

随着2016年6月份左右支付宝的一次更新,其中的刷脸功能终于从幕后走到前台,这次我就借支付宝上的刷脸系统,来聊聊人脸识别的那些事儿.事先声明,这是一篇科普小文章,言语轻松. 一.简单界面蕴含不简单道理 下面是支付宝刷脸过程中的一个界面(截图来自网络): 这个刷脸界面主要元素有三个:脸部框."眨眨眼".一张脸.接下来我们逐一介绍. 1.脸部框--人脸监测与人脸识别不可兼得 支付宝刷脸的一个基本要求就是需要用户赏个脸,并且要把脸赏在界面的指定框线内,这样做实际上是节省了一个非常大的算法开销

眉山市汽车站附近全套【无需定金】(有叫小妹)还服务一晚上真实多少『レ信:AZKY876』

『レ信:AZKY876』眉山市汽车站小妹找真实上门[无需定金]『レ信:AZKY876』[眉山市汽车站宾馆酒店真正小妹找真服务『レ信:AZKY876』[眉山市汽车站小妹漂亮服务『レ信:AZKY876』[眉山市汽车站找真小妹可×××真服务『レ信:AZKY876』[眉山市汽车站小妹找保健真服务『レ信:AZKY876』[眉山市汽车站小妹个人联系电话『レ信:AZKY876』[眉山市汽车站小妹多少钱一晚『レ信:AZKY876』[眉山市汽车站小妹找真服务『レ信:AZKY876』[眉山市汽车站小妹找真服务全 套

哈尔滨呼兰区汽车站附近全套【无需定金】(有叫小妹)还服务一晚上真实多少『レ信:AZKY876』

『レ信:kYw946』哈尔滨呼兰区汽车站妹子找真实服务[无需定金]『レ信:kYw946』[哈尔滨呼兰区汽车站宾馆酒店真正妹子找真服务『レ信:kYw946』[哈尔滨呼兰区汽车站妹子漂亮服务『レ信:kYw946』[哈尔滨呼兰区汽车站找真妹子可真服务『レ信:kYw946』[哈尔滨呼兰区汽车站妹子找保健真服务『レ信:kYw946』[哈尔滨呼兰区汽车站美女个人联系电话『レ信:kYw946』[哈尔滨呼兰区汽车站妹子多少钱一晚『レ信:kYw946』[哈尔滨呼兰区汽车站妹子找真服务『レ信:kYw946』[哈尔滨

天津河西区汽车站附近全套【无需定金】(有叫小妹)还服务一晚上真实多少『レ信:AZKY876』

『レ信:AZKY876』天津河西区汽车站妹子找真实服务[无需定金]『レ信:AZKY876』[天津河西区汽车站宾馆酒店真正妹子找真服务『レ信:AZKY876』[天津河西区汽车站妹子漂亮服务『レ信:AZKY876』[天津河西区汽车站找真妹子可真服务『レ信:AZKY876』[天津河西区汽车站妹子找保健真服务『レ信:AZKY876』[天津河西区汽车站美女个人联系电话『レ信:AZKY876』[天津河西区汽车站妹子多少钱一晚『レ信:AZKY876』[天津河西区汽车站妹子找真服务『レ信:AZKY876』[天津

天津北辰区汽车站附近全套【无需定金】(有叫小妹)还服务一晚上真实多少『レ信:AZKY876』

『レ信:AZKY876』天津北辰区汽车站妹子找真实服务[无需定金]『レ信:AZKY876』[天津北辰区汽车站宾馆酒店真正妹子找真服务『レ信:AZKY876』[天津北辰区汽车站妹子漂亮服务『レ信:AZKY876』[天津北辰区汽车站找真妹子可真服务『レ信:AZKY876』[天津北辰区汽车站妹子找保健真服务『レ信:AZKY876』[天津北辰区汽车站美女个人联系电话『レ信:AZKY876』[天津北辰区汽车站妹子多少钱一晚『レ信:AZKY876』[天津北辰区汽车站妹子找真服务『レ信:AZKY876』[天津