从QR分解到PCA,再到人脸识别

        PCA(Principal Component Analysis,主成分分析)是一种很常用的根据变量协方差对数据进行降维、压缩的方法。它的精髓在于尽量用最少数量的维度,尽可能精确地描述数据。

        PCA对数据进行降维的过程可以用下面这个动图来解释(图片摘自http://stats.stackexchange.com/a/140579/93946):

lNHqt        在上图中,一组位于直角坐标系的二维样本集,沿着斜线的方向有很强的相关性。所以如果我们将直角坐标系转换到斜向,也就是让横轴沿斜线方向,纵轴垂直于斜线方向。于是,在这个新的坐标系下,数据点在横轴上分布很分散,但是在纵轴方向比较集中。如果在误差允许范围内,我们完全可以将数据点在新纵轴上的坐标全部置为0,只用新横轴上的坐标来表示点的位置。这样,就完成了对数据降维的过程(即将原始直角坐标系的2个维度减小到新坐标系的1个维度)。对更高维的情况,处理过程与之类似。


PCA人脸识别

        将PCA用于人脸识别的过程如下:

        1.假设有400幅尺寸为100*100的图像,构成10000*400的矩阵X=[x_1,\dots,x_n]

        2.计算均值\mu=\frac{1}{n}\sum_{j=1}^n x_j,令H=\frac{1}{\sqrt{n-1}}[x_1-\mu,\dots,x_n-\mu]

        3.根据定义,计算协方差矩阵\Sigma=HH^T

        4.计算\Sigma的特征值与特征向量,取前h个最大特征值所对应的特征向量,构成矩阵\Phi

        5.矩阵\Phi可对数据降维:\Phi^T X=Y,Y是h行400列的矩阵,也就是将数据从10000维降为h维。

        这种做法一个明显的缺陷在于,\Sigma的维度为10000×10000,直接进行奇异值分解计算量非常大。利用QR分解,作间接的奇异值分解,可以减小计算量。


利用QR分解减小计算量

        基于QR分解的PCA算法步骤如下:

        1.已知\Sigma=HH^T,其中\Sigma为d*d,H为d*n,d代表原始数据的维数,n代表样本数,d远大于n;

        2.H作QR分解,h=QR,其中Q为d*t,R为t*n,1\leq t \leq n

        3.\Sigma=QRR^T Q^T,对R^T作奇异值分解R^T=UDV^T,其中U为n*t,V为t*t,D=diag(\sigma_1,\dots,\sigma_t)

        4.于是\Sigma=QVDU^T UDV^T Q^T=QVD^2 V^T Q^T=QV\Lambda V^T Q^T,其中\Lambda=D^2

        5.由于(QV)^T (QV)=V^T Q^T QV=V^T V=I,所以QV可将\Sigma对角化,QV为\Sigma的特征向量矩阵,\Lambda\Sigma的特征值矩阵;

        6.选取D前h个最大对角元所对应于V中的h个列,构成t*h的矩阵V_h,则降维矩阵\Phi=QV_h

        该过程涉及对一个很大的矩阵的QR分解,和对一个较小矩阵的奇异值分解。计算量与传统方法相比较的结果如下(图片摘自[1]):

computation_comparision

        进一步,进行人脸识别的过程如下:

        1.假设有c个类别,每类包含s个样本,则n=c∗s;

        2.对X计算Y=\Phi^T X,将Y(也称特征脸)按类别计算均值,得到c个长度为h的列向量v_1,\dots,v_c

        3.对于未知类别的新样本x,计算y=\Phi^T x,y的长度为h;

        4.计算距离d(y,v_i),i=1,\dots,c,取距离最小的i作为x的类标号。


距离度量d

        1.欧式距离

Euclidean_Distance

        2.曼哈顿距离

Manhattan_Distance

        3.马氏距离

Mahalanobis_Distance

        在马氏距离中,x与y分布相同,且协方差矩阵为S。加入协方差矩阵的逆矩阵的作用是,将如下图(图片部分取自http://stats.stackexchange.com/a/62147/93946)中呈椭圆分布的数据归一化到圆形分布中,再来比较距离,可以抵消不同样本集在特征空间中的分布差异。

Mahalanobis_Distance_example


C++实现

        环境要求:OpenCV(样本图像的读取),Armadillo(高性能线性代数C++函数库),Intel MKL(替代LAPACK为Armadillo提供矩阵分解计算)。

        项目使用Visual Studio Ultimate 2012建立,不过核心代码只有一个cpp文件。

        全部代码托管在github.com/johnhany/QR-PCA-FaceRec


分类测试

        测试样本采用The AT&T Database of Faces,原称The ORL Database of Faces,包含取自40个人的样本,每人10幅,共400幅图像,图像尺寸92*112。

at_t_datasets        样本库的链接为http://www.cl.cam.ac.uk/research/dtg/attarchive/facedatabase.html

        1.欧式距离降维及分类效果:

Euclidean_Distance_result        即使将h设为最大的400(样本数),其分类正确率也只能达到99%。

        2.曼哈顿距离降维及分类效果:

Manhattan_Distance_result        在h为128时,分类正确率可以达到100%,降维能力略好于欧式距离。

        3.马氏距离降维及分类效果:

Mahalanobis_Distance_result        在h仅仅为7的时候,其分类正确率就已经达到100%了。采用马氏距离的PCA方法可以将人脸数据的维度从10000左右降到7,降维效果非常优秀。在h超过9时,分类过程中计算的最大马氏距离超出了双精度浮点数double的上限。


参考文献

[1] Sharma A, Paliwal K K, Imoto S, et al. Principal component analysis using QR decomposition[J]. International Journal of Machine Learning and Cybernetics, 2013, 4(6): 679-683.

[2] Raj D. A Realtime Face Recognition system using PCA and various Distance Classifiers[J]. 2011.

[3] Turk M, Pentland A. Eigenfaces for recognition[J]. Journal of Cognitive Neuroscience, 1991, 3(1): 71-86.

31 评论 在 "从QR分解到PCA,再到人脸识别"

  Subscribe  
最新 最旧
订阅评论
zwg

您好!71行代码H /= 1.0 / sqrt(sample_num – 1);是不是应该为class_num*sample_num?

zwg

您好!71行代码H /= 1.0 / sqrt(sample_num – 1);是不是应该为class_num*sample_num?

肖雅

你好,我想请问一下,你这篇博客的思想是直接对整张图片进行匹配是吧。这样的话当人脸角度发生变化,或者拍照的环境变化时,结果应该会受到比较大的影响,是不是去分别比对眼睛,鼻子,嘴巴,结果会更加可信呢?

眉刘海

楼主,有做过Android opencv的人脸识别么?

bruno

第一个动图好棒

milliar wang

楼主,可以转载你的这篇文章吗?

七月恋堇

你好,我用的vs2010+opencv2.4.9,编译时出现

fatal error C1083: 无法打开包括文件:“armadillo”: No such file or directory

想问一下什么原因

renyong

我没有用Intel MKL,而是用LAPACK为Armadillo提供矩阵分解计算。编译通过了,运行时提示warning:svd():decomposition failed,error:Mat::cols(): indices out of  bounds or incorrectly used .测试时arma::svd_econ(U, d, V, R.t());返回0。请问这是什么原因。

renyong

我在我电脑上装上intel的MKL,然后添加到vs2013中,就可以成功运行了。我想之前的错误应该是Armadillo自带的库分解能力问题造成的。

非常感谢之前的热情帮助

renyong

您好 ,您这个程序是基于arm的吗?如果是,有X64下的吗

艾尔伯特

能给个qq或者微信交流吗,如果可以发我邮箱,谢谢了

艾尔伯特

您好,我正在进行android平台上的人脸识别开发,我用JNI的方法,需要把识别后的图像(Mat类型)存入jintArray型数组,再把jintArray传回java层显示,你有什么好办法啊

超级赛亚人

这数学知识用的深啊~ 奇异值分解什么的 矩阵里面的内容吗?

请问有木有android opencv 人脸识别的教程