前言
本周博客我们给大家介绍一下SiftGPU。由于特征匹配是SLAM中非常耗时间的一步,许多人都想把它的时间降至最短,因此目前ORB成了非常受欢迎的特征。而老牌SIFT,则一直给人一种“很严谨很精确,但计算非常慢”的印象。在一个普通的PC上,计算一个640$\times$480的图中的SIFT大约需要几百毫秒左右。如果特征都要算300ms,加上别的ICP什么的,一个SLAM就只能做成两帧左右的速度了,这是很令人失望的。而ORB,FAST之类的特征,由于计算速度较快,在SLAM这种实时性要求较高的场合更受欢迎。
那么,今天我们来说一个GPU版本的SIFT。它是由Wu Changchang同学写的。它能够明显地提升你的程序提取SIFT的速度。同时,它的代码大部分是基于OpenGL的,即使在没有英伟达显卡的机器上也能运行起来。但另一方面,出于某种(历史或人为的)原因,SiftGPU的代码配置起来并不很容易(特别是在Linux下,似乎SiftGPU作者是在win下开发的),代码新人可能会觉得比较困难。现在我们带着大家实践一下SiftGPU,我会给出一个例程供大家测试。
首先,说说我的运行配置。我用的机器是Thinkpad T450, Intel+Nvidia GetForce 940m显卡。但我个人只用Intel卡,所以我就不编译Cuda了。各位有上好N卡的同学也可以搞个Cuda下来编,可能会提高一点速度(但我不保证)。我使用的操作系统是Ubuntu 14.04,OpenCV3.1版本。所以我假设你OpenCV已经装好啦!(所以c++编译器总有的吧!) 不过opencv是不是3.1版本是没关系的,程序在2.x版本上也是能正常运行的。
小萝卜:师兄你这真是宅男标配啊!你到底是在讲配置环境还是在秀桌面啊!
下载SiftGPU与依赖库
SiftGPU主页:http://www.cs.unc.edu/~ccwu/siftgpu/
请找到“SiftGPU-V400"那个下载链接,保存到你的电脑上。然后解压缩,进入压缩后的文件夹。假定你也在用Ubuntu,那么你现在的目录应该是 ~/Downloads/SiftGPU/ 。注意,为了和我保持一致,请你暂时不要下载github上面那个版本,那个与它稍有不同。如果你就是喜欢github,可以把这个编译好,再考虑用github版本。
现在我们来安装依赖项。首先,确保你机器上有OpenGL,请安装以下几项工具:
1 sudo apt-get install libgl1-mesa-dev libglu1-mesa-dev freeglut3-dev
然后,要安装glew1.5.1以上版本。据我个人经验,最好是去下载glew网站的版本。
glew的网址:http://glew.sourceforge.net/
请下载那个1.13.0版本,zip文件或tgz均可。下载到本地并解压,然后进入该文件夹。我的在~/Downloads/glew-1.13.0
glew是用makefile直接编译的,不用cmake。所以我们直接敲:
1 make 2 sudo make install
即可。很快它就编译好了。
注意看make install输出的信息。它默认把编译好的库文件libglew.so.1.13放到了/usr/lib64下。由于之后我们要用cmake去编,但是它可能找不到这个文件夹,所以我们现在先告诉系统,该文件夹下有要找的链接库:
1 sudo ldconfig /usr/lib64/
ok,现在我们处理完了glew,转去编译SiftGPU。SiftGPU也是用Makefile编译的。现在转到SiftGPU所在文件夹。调用
1 make
来完成编译。如果顺利的话,你会在bin/目录里得到几个二进制和一个libsiftgpu.so库文件。我们主要使用这个库文件。现在看一下它的链接是否正确:
1 ldd bin/libsiftgpu.so
这个命令会输出与它链接的库的信息。请保证没有出现某个链接(特别是刚才的GLEW)没有找到的情况(否则这里会通过,但后面会出现undefined reference)。像我这样:
如果这步正确无误,恭喜你,SiftGPU已经编译完成了!真是可喜可贺呀!
小萝卜:然后呢?师兄我还没看到什么感觉很厉害的东西啊?
师兄:下面我们来实际找一个图片,写一段小程序调用SiftGPU,提一下特征试试。为测试速度,我们还要记录一下代码运行时间。
测试SiftGPU
现在我们来写一个测试程序。由于它比较短,我就不专门搞个github了。请大家跟着我做即可。
首先,随意新建一个目录,比如test_siftgpu。我们要写一个c++程序,然后用cmake编译它。现在新建一个main.cpp,内容如下:
1 // SiftGPU模块 2 #include <SiftGPU.h> 3 4 //标准C++ 5 #include <iostream> 6 #include <vector> 7 8 // OpenCV图像 9 #include <opencv2/core/core.hpp> 10 #include <opencv2/highgui/highgui.hpp> 11 12 // boost库中计时函数 13 #include <boost/timer.hpp> 14 15 // OpenGL 16 #include <GL/gl.h> 17 18 using namespace std; 19 20 int main( int argc, char** argv) 21 { 22 //声明SiftGPU并初始化 23 SiftGPU sift; 24 char* myargv[4] ={ "-fo", "-1", "-v", "1"}; 25 sift.ParseParam(4, myargv); 26 27 //检查硬件是否支持SiftGPU 28 int support = sift.CreateContextGL(); 29 if ( support != SiftGPU::SIFTGPU_FULL_SUPPORTED ) 30 { 31 cerr<<"SiftGPU is not supported!"<<endl; 32 return 2; 33 } 34 35 //测试直接读取一张图像 36 cout<<"running sift"<<endl; 37 boost::timer timer; 38 //在此填入你想测试的图像的路径!不要用我的路径!不要用我的路径!不要用我的路径! 39 sift.RunSIFT( "/home/xiang/wallE-slam/data/rgb1.png" ); 40 cout<<"siftgpu::runsift() cost time="<<timer.elapsed()<<endl; 41 42 // 获取关键点与描述子 43 int num = sift.GetFeatureNum(); 44 cout<<"Feature number="<<num<<endl; 45 vector<float> descriptors(128*num); 46 vector<SiftGPU::SiftKeypoint> keys(num); 47 timer.restart(); 48 sift.GetFeatureVector(&keys[0], &descriptors[0]); 49 cout<<"siftgpu::getFeatureVector() cost time="<<timer.elapsed()<<endl; 50 51 // 先用OpenCV读取一个图像,然后调用SiftGPU提取特征 52 cv::Mat img = cv::imread("/home/xiang/wallE-slam/data/rgb1.png", 0); 53 int width = img.cols; 54 int height = img.rows; 55 timer.restart(); 56 // 注意我们处理的是灰度图,故照如下设置 57 sift.RunSIFT(width, height, img.data, GL_INTENSITY8, GL_UNSIGNED_BYTE); 58 cout<<"siftgpu::runSIFT() cost time="<<timer.elapsed()<<endl; 59 60 return 0; 61 }
Sift接口还是相当简单的。在这程序里,我们一共做了三件事。一是直接对一个图像路径提Sift,二是获取Sift的关键点和描述子。三是对OpenCV读取的一个图像提取Sift。我们分别测了三者的效果和时间。
接下来,写一个CMakeLists.txt来编译上面的文件。
cmake_minimum_required(VERSION 2.8.3) project(test_siftgpu) # OpenCV依赖 find_package( OpenCV REQUIRED ) # OpenGL find_package(OpenGL REQUIRED) # GLUT find_package(GLUT REQUIRED) # Glew find_package(Glew REQUIRED) # SiftGPU:手动设置其头文件与库文件所在位置 include_directories("/home/xiang/Downloads/SiftGPU/src/SiftGPU/" ${OpenGL_INCLUDE_DIR}) set(SIFTGPU_LIBS "/home/xiang/Downloads/SiftGPU/bin/libsiftgpu.so") add_executable( testSIFTGPU main.cpp ) target_link_libraries( testSIFTGPU ${OpenCV_LIBS} ${SIFTGPU_LIBS} ${GLEW_LIBRARIES} ${GLUT_LIBRARIES} ${OPENGL_LIBRARIES} )
对于SiftGPU,由于它本身没有提供cmake的配置,我们手动去设置了它的头文件与库文件的链接方式。大家可以学习一下这种比较土的办法……然后就是常见的cmake啦:
mkdir build cd build cmake .. make
等一下!是不是还忘了些什么呢?嗯,如果你直接去cmake的话,会报一个find_package找不到glew的错!因为我们装glew的时候是直接用make install装的嘛,cmake怎么会知道我们干了这件事呢?所以此时find_package(Glew REQUIRED)就会出错啦!
小萝卜:为什么出错了你还是很高兴的样子……
师兄:对!现在呢我们要自己写一个FindGlew.cmake文件喽。请打开你的编辑器,输入:
1 # 2 # Try to find GLEW library and include path. 3 # Once done this will define 4 # 5 # GLEW_FOUND 6 # GLEW_INCLUDE_PATH 7 # GLEW_LIBRARY 8 # 9 10 IF (WIN32) 11 FIND_PATH( GLEW_INCLUDE_PATH GL/glew.h 12 $ENV{PROGRAMFILES}/GLEW/include 13 ${PROJECT_SOURCE_DIR}/src/nvgl/glew/include 14 DOC "The directory where GL/glew.h resides") 15 FIND_LIBRARY( GLEW_LIBRARY 16 NAMES glew GLEW glew32 glew32s 17 PATHS 18 $ENV{PROGRAMFILES}/GLEW/lib 19 ${PROJECT_SOURCE_DIR}/src/nvgl/glew/bin 20 ${PROJECT_SOURCE_DIR}/src/nvgl/glew/lib 21 DOC "The GLEW library") 22 ELSE (WIN32) 23 FIND_PATH( GLEW_INCLUDE_PATH GL/glew.h 24 /usr/include 25 /usr/local/include 26 /sw/include 27 /opt/local/include 28 DOC "The directory where GL/glew.h resides") 29 FIND_LIBRARY( GLEW_LIBRARY 30 NAMES GLEW glew 31 PATHS 32 /usr/lib64 33 /usr/lib 34 /usr/local/lib64 35 /usr/local/lib 36 /sw/lib 37 /opt/local/lib 38 DOC "The GLEW library") 39 ENDIF (WIN32) 40 41 IF (GLEW_INCLUDE_PATH) 42 SET( GLEW_FOUND 1 CACHE STRING "Set to 1 if GLEW is found, 0 otherwise") 43 ELSE (GLEW_INCLUDE_PATH) 44 SET( GLEW_FOUND 0 CACHE STRING "Set to 1 if GLEW is found, 0 otherwise") 45 ENDIF (GLEW_INCLUDE_PATH) 46 47 MARK_AS_ADVANCED( GLEW_FOUND )
然后呢,把这个文件放到cmake的modules文件夹中去!这样cmake就会知道你在调用find_package(Glew)时怎么找啦!
sudo cp ./FindGlew.cmake /usr/share/cmake-2.8/Modules/
注意到这个文件所在的目录通常是没有写权限的的哦!所以我们要用sudo提升到管理员权限才行呢。
这时,再调用cmake ..,就不会报上面的错误啦!而编译也得以顺利进行下去了。
但是!但是!编译还是出错了,错误如下:
/home/xiang/Downloads/SiftGPU/src/SiftGPU/SiftGPU.h:336:40: error: declaration of ‘operator new’ as non-function SIFTGPU_EXPORT void* operator new (size_t size);
这是什么原因呢?g++的编译错误很难懂,一直为人诟病。师兄仔细查了查,发现SiftGPU作者重载了new运算符,但是它的参数"size_t size"中的"size_t"类型,在linux下编译是需要指定一个头文件的!所以我们打开~/Downloads/SiftGPU/src/SiftGPU/SiftGPU.h文件,在上头加入一个
#include <stddef.h>
这样编译器就会找到size_t类型啦!编译就能通过喽!
SiftGPU运行结果
以下就是在师兄电脑上的运行结果啦,大家可以看一下:
对于OpenCV已经读入的数据,在640x480的分辨率下,用SiftGPU只需40多毫秒即可完成计算了呢!GPU真的是很强大啊!即使在没有Cuda的情况下都取得了近十倍的加速啊!效果拔群!
小萝卜:我的ORB只要30毫秒就行了,哼.
小结
本篇介绍了SiftGPU,我们带领读者完成了它的编译,并在自己的程序内实现了调用。可以看到它的加速效果还是不错的!
另外,这也是我的一次尝试,告诉读者在编译过程中遇到问题该如何处理。我本可以直接跳过这些buggy的部分,告诉大家运行的结果。但我觉得这样子讲可能对读者更有帮助啦!
如果你觉得我的博客有帮助,可以进行几块钱的小额赞助,帮助我把博客写得更好。