矩阵的奇异值分解.pdf

§2矩阵的奇异值分解

T
定义设A是秩为r的mn复矩阵，AA的特征值为

12rr1n0.

则称ii(i1,2,,n)为A的奇异值.

易见，零矩阵的奇异值都是零，矩阵A的奇异值的个数等于A的列
数，A的非零奇异值的个数等于其秩.
矩阵的奇异值具有如下性质：
（1）A为正规矩阵时，A的奇异值是A的特征值的模；
（2）A为半正定的Hermite矩阵时，A的奇异值是A的特征值；

mmnnmn
（3）若存在酉矩阵UC,VC，矩阵BC，使UAVB，

则称A和B酉等价.酉等价的矩阵A和B有相同的奇异值.

奇异值分解定理设A是秩为r(r0)的mn复矩阵，则存

在m阶酉矩阵U与n阶酉矩阵V，使得

HO
UAV.①
OO

其中diag(1,2,,r)，i(i1,2,,r)为矩阵A的全部非零奇

异值.

H
证明设Hermite矩阵AA的n个特征值按大小排列为

12rr1n0.

则存在n阶酉矩阵V，使得
12
HHO
V(AA)V.②
OO
n

将V分块为V(V1V2)，

其中V1，V2分别是V的前r列与后nr列.

并改写②式为

2
HO
AAVV.
OO
则有

H2H
AAV1V1，AAV2O.③

由③的第一式可得

HH2H
V1AAV1，或者(AV1)(AV1)Er.

由③的第二式可得

H
(AV2)(AV2)O或者AV2O.

1H
令U1AV1，则U1U1Er，即U1的r个列是两两正交的单位向

m
量.记作U1(u1,u2,,ur)，因此可将u1,u2,,ur扩充成C的标准正交基，

记增添的向量为ur1,,um，并构造矩阵U2(ur1,,um)，则

U(U1,U2)(u1,u2,,ur,ur1,,um)

HH
是m阶酉矩阵,且有U1U1Er，U2U1O.

于是可得

H
HHU1O
UAVU(AV1，AV2)H(U1，O).
U2OO

由①式可得

OHHHH
AUV1u1v12u2v2rurvr.④
OO
称④式为矩阵A的奇异值分解.

H
值得注意的是：在奇异值分解中u1,u2,,ur,ur1,,um是AA的特征

HHH
向量，而V的列向量是AA的特征向量，并且AA与AA的非零特征值

完全相同.但矩阵A的奇异值分解不惟一.

H
证明2设Hermite矩阵AA的n个特征值按大小排列为

12rr1n0.

则存在n阶酉矩阵V，使得

12
HHO
V(AA)V.②
OO
n

V
将分块为V(v1,v2,,vn)，它的n个列v1,v2,,vn是对应于特征值

1,2,,n的标准正交的特征向量.

m
为了得到酉矩阵U，首先考察C中的向量组Av1,Av2,,Avr，由于当

i不等于j时有

HHHHH
(Avi,Avj)(Avj)(Avi)vjAAvivjiviivjvi0

m
所以向量组Av1,Av2,,Avr是C中的正交向量组.

2HHH
又||Avi||viAAvivivii，i

所以||Avi|i|.i

1m
令uiAvi，i1,2,,r，则得到C中的标准正交向量组u1,u2,,ur，
i

m
把它扩充成为C中的标准正交基u1,,ur,ur1,um，令

U(u1,,ur,ur1,um)

则U是m阶酉矩阵.由已知及前面的推导可得
Aviiui，i1,2,,r；Avi0，ir1,,n；

从而AVA(v1,v2,v,n)Av(1,Avr,0,0,,)

10
O

(u1,,ur,0,,0)(u1,u2,,um)
0r
OO

ΣO
U
OO

H
故有AVUΔ，即UAVΔ.

120
例1求矩阵A的奇异值分解.
202

524

T
解AA240的特征值为19,24,30，
404
对应的单位特征向量依次为

1T1T1T
v1(5,2,4),v2(0,2,1),v3(2,1,2).
3553

5025
1
所以V265.
35
4325

于是可得

30
r(A)2，.
02

1112
计算UAV1，则A的奇异值分解为
521
300T
AUV.
020

在A的奇异值分解中，酉矩阵V的列向量称为A的右奇异向量，V

H
的前r列是AA的r个非零特征值所对应的特征向量，将他们取为矩阵

V1，则V(V1,V2).酉矩阵U的列向量被称为A的左奇异向量，将U从前

r列处分块为U(U1,U2)，由分块运算，有

HHH
HU1U1AV1U1AV2O
UAVH(AV1，AV2)HH
U2U2AV1U2AV2OO

从而AV20，AV1=UΣ1.

因此，有下列结果

（1）V2的列向量组是矩阵A的零空间N(A){xAx0}的一组标准

正交基；

（2）U1的列向量组是