投影矩阵是what?

先给出结论:投影矩阵P(projection),可以把一个向量b,投影到一个“空间”上,投影点称为p,从p到b的向量称为e,e = b - p,e的含义是偏差向量(error)。

再举例子帮助读者明白:

上述的“空间”为一维时

一个向量b,投影到一个一维的空间,显然,这个空间是一条直线,设直线为单位向量a,那么这个投影实在就是找到这个直线上离b近来的点p,偏差向量e就是b到p的间隔。由于p在a上,以是有:

p = ax(p和a都是向量,x是一个值)【式子1】

然后,由于p是b在a上的投影,那么意味着,a与e成90度角,当2个向量相互垂直时,他们的点积(或 内积、 dot product)即是0,于是有: <!--more--> \[ a^{T}e = 0 \]

\[ a^{T}(b-xa) = 0 \]

再变更一下,得到:

\[ xa^{T}a = a^{T}b \]

\[ x = \dfrac { a^{T}b }{ a^{T}a } \]

根据【式子1】,最后得到:

\[ p = a\dfrac { a^{T}b }{ a^{T}a } 【式子2】 \]

看,式子左边的p是投影向量,右边有b和a,b是原向量,a是空间向量。以是这个式子隐含了一个变更关系:从b通过某种变更可以或许得到p。所谓的投影矩阵P(留意,是大写),就在这个式子内里了。

投影矩阵P应该有这样的效果:

\[ p = Pb \]

P作用于任意一个向量b,可以或许得到b在某个空间的投影点p。

留意: P是一个矩阵,不是一个数!

【式子2】应该要变更成什么样子,才能变出一个矩阵呢?答案如下:

\[ p = \dfrac { aa^{T} }{ a^{T}a }b \]

投影矩阵P:

\[ P = \dfrac { aa^{T} }{ a^{T}a } \]

式子右边是一个矩阵,这是由于分子是\(aa^{T}\),这不是一个数,而是一个矩阵(分母才是一个数)。(次序很重要!)

投影矩阵P的2条重要性子:

    \( P = P^{T} \)

    \( P^{n} = P \) , n为正整数

第二条性子说明,投影点p再次经过同一个投影变更,依然还是p。这样的矩阵称为幂等矩阵。

投影的实际意义?

为什么要找投影点,这是由于,当我们要盘算线性方程组 \( Ax=b \)的解时,它大概是无解的。怎么办呢?既然没有正解,就找最优解!最优解就是找一个和b近来的p,并求解\( A\hat{x}=p \)。

上述的“空间”为二维时

一个向量b,投影到一个二维的空间,显然,这个空间是一个平面。一个平面,可以由2个线性无关(independant)的向量\(a_{1}\)和\(a_{2}\)确定。a1和a2是这个平面的一组基(basis)。

一组基可以写成矩阵的情势:

\[ A = [ \ a_{1}\ \ a_{2} ] \ \] 【式子3】

和一维环境做一个对比:

投影点p,在一维时 p = ax。那么,在二维平面上呢?显然,p可以由这个平面的基得到:\( p = \hat{x_{1}}a_{1}+x_{2}a_{2} \)。

根据【式子3】可以得到:

\[ p = A\hat{x} \]

\[ e = b - p = b - A\hat{x} \]

上述一维的环境时的那个e,在二维时也是一样的,e会垂直于这个空间,也就是e和这个平面是垂直的。

由于e宁静面垂直,平面的基是\(a_{1}\)和\(a_{2}\),即e与\(a_{1}\)和\(a_{2}\)垂直,以是:

\[ a_{1}^{T}(b - A\hat{x}) = 0 \]

\[ a_{2}^{T}(b - A\hat{x}) = 0 \]

\[ \left[ \begin{matrix} a_{1}^{T}\\ a_{2}^{T}\\ \end{matrix} \right] (b - A\hat{x}) = \left[ \begin{matrix} 0\\ 0\\ \end{matrix} \right] \]

\[ A^{T}(b - A\hat{x}) = 0 \]

\[ A^{T}A\hat{x} = A^{T}b \]

这和一维环境的此中一个式子很像,对吧。 但\(A^{T}A\)是一个高维的工具,它不是一个数,而是一个矩阵。

再变更一下,得到:

\[ \hat{x} = (A^{T}A)^{-1}A^{T}b \]

以是投影点p和b的变更公式就是:

\[ p = A\hat{x} = A(A^{T}A)^{-1}A^{T}b \]

抽出投影矩阵:

\[ P = A(A^{T}A)^{-1}A^{T} 【式子4】\]

这条式子,中间的括号如果可以去掉的话,就变成了:

\[ P = A A^{-1} (A^{T})^{-1} A^{T} \]

\[ P = II = I \]

为什么P变成了单位矩阵I呢?这是由于把\( (A^{T}A)^{-1} \)解开的条件是 A是一个方阵 。但就如今这个二维平面的例子而言,A由2个基组成((每个基有3个分量),A并不是方阵,以是是不能解开的。上述的变更是错误的。

当A是方阵时,意味着有3个基,而又由于基之间线性无关,以是方阵A不大概只是代表一个平面空间,实际上,A代表的是一个三维空间。以是,一个在三维空间的点b,投影到三维空间后,固然还是b。以是A是方阵时,投影矩阵就是单位矩阵I。

当A不是方阵时,要根据【式子4】去求投影矩阵P。

别的,在高维环境下,P的那2条性子依然建立。

投影矩阵性质证明

田永革[1]在IMAGE34提出了分块投影矩阵的几本性质,并与V.Piccialli,H.Wolkowicz.H.J.werner等分别在IMAGE35给出了一些证实方法[2-4],本文使用子矩阵的!剖析给出了一个新的证实[5-6],并推广了此中的一个结论.命题设M=????BA*DB????是正交投影,即满意M2=M=M*,则矩阵的Schur补满意rank(D?B*A+B)=rank(D)?rank(B*A+B),此中:rank(A)表现矩阵A的秩;A+表现矩阵A的Moore-Penrose逆,即A+满意AA+A=A,A+AA+=A,(AA+)?=AA+,(A+A)?=A+A[7].证实由M2=M=M*,有AB+BD=B,B*B=D?D2,BB*=A?A2(1)设矩阵A,D,B分别有如下的剖析*A=U????0E00????U,D=V????F000????V*,B=U????BB1211BB1222????V*(2)此中:U,V分别为酉矩阵;E,F分别为对角正定矩阵.由式(1)与式(2)得B12=0,B21=0,B22=0,同时另有1211B1*1B=F?F,EB+BF=B(3)留意到E为非奇特矩阵,在式(3)的第2个等式左乘B1*1E?1,同时由式(3)的第1个等式可得F?F2=B1*1E?1B11(I?F)(4)此中:I为单位矩阵.设rank(B11)=t,由式(3)的第1个等式,则有F=Qdiag(1,,n)Q*,此中:1,,t1;t+1==n=1,Q为酉矩阵,则**100I?F=Qdiag(1?,,1?n)Q=Q?????0????Q(5)同时F?F2=Qdiag(1(1?1),,n(1?n))Q*=Q?????0'00????Q*(6)第6期刘晓冀:分块正交投影矩阵的一本性质证实5假设B1*1E?1B11具有如下的情势*2122111211B1*11E?B=Q????CCCC????Q,由式(4)~式(6),则C12=0,C11=diag(1?1,,1?t),C22=0,于是11*F0=Q????CIn0?t????Q,B1*1E?1B11=Q????C01100????Q*(7)由式(7),有rank(F?B1*1E?1B11)=rank(Q*FQ?Q*B1*1E?1B11Q)=n?t=rank(F)?rank(B1*1E?1B11)(8)由式(2),有)rank()00rank(D?B*A+B)=rank(V????F?B1*1E?1B110????V*=F?B1*1E?1B11(9)由于rank(D)=rank(F),rank(B*A+B)=rank(B1*1E?1B11),由式(8)和式(9),则rank(D?B*A+B)=rank(D)?rank(B*A+B).证毕.实际上由式(2)和式(7)即可得到:推论设M=????BA*BD????是正交投影,即满意M2=M=M*,则(B*A+B)*D=(B*A+B)*(B*A+B),D(B*A+B)*=(B*A+B)(B*A+B)*若(B*A+B)*D=(B*A+B)*(B*A+B),D(B*A+B)*=(B*A+B)(B*A+B)*,则rank(D?B*A+B)=rank(D)?rank(B*A+B),这推广了命题的结论.分块正交投影矩阵的一本性质证实@刘晓冀$广西民族大学盘算机与信息学院!广西南宁530006使用子矩阵的剖析研究了投影矩阵的Schur补,给出了投影!矩阵Schur补的性子的一个新证实,并推广了此中的一个结论.投影矩阵;;Schur补;;Moore-Penrose逆[

出书日期: 2007-11-30null

摘要: 使用子矩阵的剖析研究了投影矩阵的Schur补,给出了投影矩阵!Schur补的性子的一个新证实,并推广了此中的一个结论.

刊名: 高师理科学刊

本文网址: http://www.appike.com/d/20201027105626_1947_3607893302/home