矩阵Hadamard积与Fan积的最小特征值与谱半径界的估计.docx

矩阵Hadamard积与Fan积的最小特征值与谱半径界的估计
矩阵Hadamard积与Fan积是线性代数中常见的两个重要的运算。其中Hadamard积又称为按位乘积或阿达马积，与矩阵加法和乘法一起构成了矩阵运算的基本三种形式。而Fan积也称为Khatri-Rao积或直积，请注意这两个概念有区分。本文将着重探讨这两个矩阵运算的最小特征值与谱半径界的估计。
首先来介绍一下矩阵Hadamard积。矩阵Hadamard积相当于两个矩阵按位相乘，即将两个矩阵同一位置上的元素相乘，然后得到一个新的矩阵，与原矩阵的形状相同。若两个矩阵分别为A和B，则Hadamard积可表示为A◦B。它的性质包括对称性和可交换性，即A◦B=B◦A。同时，矩阵Hadamard积的谱半径界可以通过矩阵范数和估计得出。
令A和B为两个n维实矩阵，并定义矩阵范数为：||A||=max||Ax||/||x||，其中x为n维实向量，||x||为其欧几里得范数。则，A和B的Hadamard积的谱半径r(A◦B)有以下的上下界：
(1)r(A◦B)≤||A||×||B||
(2)r(A◦B)≥1/n×||A||×||B||
上式成立的原因是因为两个矩阵的Hadamard积中，每个位置上的元素都是由两个矩阵中的对应元素相乘得到的。所以，矩阵Hadamard积可以看作是一种用一维线性变换表示的矩阵范数，即：
||A◦B||=max||Ax◦Bx||/||x||，其中x为n维实向量
然后，再利用矩阵均值不等式，将矩阵Hadamard积的范数表示为矩阵的矩阵范数，即：
||A◦B||≤||A||×||B||
由此可知，矩阵Hadamard积的谱半径界为：
(1)r(A◦B)≤||A||×||B||
对于下界，可以证明：
(2)r(A◦B)≥1/n×||A||×||B||
证明过程如下：
设x为单位向量，x^T为x的转置，AX为线性变换A对向量x的作用结果，BX为线性变换B对向量x的作用结果，则：
x^T(A◦B)x=||AX◦BX||/||x||^2
=Σ(AXi×BXi)/||x||^2
=Σ(AXi/||x||×BXi/||x||)
由于向量x为单位向量，所以Σ(Xi)^2=||x||^2=1，这意味着(Xi/||x||)^2≤1/n。
所以：
Σ(AXi/||x||×BXi/||x||)≤Σ(AXi/||x||)×Σ(BXi/||x||)
=||AX||×||BX||
然后，由于矩阵范数的定义，有：||AX||≤||A||，||BX||≤||B||。
所以：
x^T(A◦B)x≤||A||×||B||/n
因为等式左边是矩阵A◦B的最小特征值。所以，矩阵Hadamard积的谱半径界为：
(2)r(A◦B)≥1/n×||A||×||B||
接下来，来看一下矩阵Fan积。矩阵Fan积是指对两个矩阵的每一列进行直积，即将两个矩阵的第一列作直积，得到一个新的列向量，直到将两个矩阵的最后一列直积得到一个新的列向量。如果一个矩阵为A(m×n)，另一个矩阵为B(r×n)，则两个矩阵的Fan积为一个大小为mr×n的矩阵C。它的性质包括可交换性和不具有结合律，即(A⊙B)⊙C≠A⊙(B⊙C)。矩阵Fan积的最小特征值与谱半径界的估计较为复杂。
设矩阵B的列向量为b1,b2,...,br，因为B的行数为r（r<n），所以bi之间的线性关系不是全0，即存在一些c1,c2,...,cr，它们不全为0，使得
Σcibi=0
且至少有一个ci≠0
这里，设bi的第j个分量为bij，第i个矩阵Fan积的第k个分量为Cik。则：
Cik=ai1bi1×ai2bi2×...×airbir
其中，aij是矩阵A中第j列的第i个分量。
令D表示r维向量c的所有排列矩阵，即：
Dij=cjπ(i)
其中，π是1到r的排列。设BΠ和DΠ分别表示排列矩阵B和D，即BΠ和DΠ为将B和D的列向量按照π的规则重新排序后得到的矩阵，则矩阵Fan积C可以表示为：
C=A(BΠ◦DΠ)^T
这里，BΠ，DΠ为单位秩矩阵。然后，将C的谱半径表示为范数的形式：
r(C)=||C||
=||A(BΠ◦DΠ)^T||
=||BΠ◦DΠ||(A的矩阵范数选择为SVD范数)
根据矩阵Hadamard积的情况，上式可以不等式形式表示：
||BΠ◦DΠ||≤||BΠ||×||DΠ||
而||BΠ||和||DΠ||具有相似的上下界：
(3)||BΠ||≤(r!)1/r×(||B||r)1/r
(4)||DΠ||≤(r!)1/r×(||C||r)1/r
由于C的每一列均由直积得到的，所以C的所有范数是相同的。因此，对于下界，有：
(5)r(C)≥(r!)−1/r×(||A||r×||B||r×||C||r)1/r
而对于上界，可以根据Lax定理得出：