自由Man

PCA分析中,各成分方差等于协方差矩阵差特征值的证明

绝大多数“多元统计”教材讲到多元正态分布时,都有这么一道习题,包括相关的2个证明:
1)、Y是随机变量,X是随机变量,c是常量,设Y=c.X,证明D(Y)=c^2*D(X)
2)、Y是随机变量,x是随机向量,c是常向量,设Y=c'x,证明D(Y)=c'.D(x).c

3)、y是随机向量,x是随机向量,C是常矩阵,设y=C'x,证明D(y)=C'.D(x).C


证明:

利用1)、2):

     ∵第i个主成分Yi=Vi'.X,这里Vi是D(x)的第i个特征向量
            ∴D(Yi)=Vi'.D(X).Vi
            ∴D(Yi)=Vi'.[D(X).Vi]=Vi'[λi.Vi],第2个等号的依据是特征向量的定义
            ∴D(Yi)=λi[Vi'.Vi]=λi,第1个等号的依据是提取常系数,第2个等号的依据是Vi是单位向量

     或利用3):
            主成分y=V'.x,这里V是特征向量排列成的矩阵
           ∴D(y)=V'.D(x).V=Λ,这里Λ是特征值沿着对角线排列成的矩阵


    又Cov(Yi,Xj)=sqrt(λi)*v(ij)



参考书籍:《实用多元统计分析》

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

Powered By Z-BlogPHP 1.5.2 Zero Theme By 爱墙纸

Copyright ZiYouMan.cn. All Rights Reserved. 蜀ICP备15004526号