矩阵是什么？
矩阵的代数性质
1. 矩阵是线性映射的表示：
线性映射的相加表示为矩阵的相加
线性映射的复合表示为矩阵的相乘
2. 矩阵是一种语言，它是表示复杂系统的有力工具。
学习矩阵理论的重要用途之一就是学会用矩阵表示
复杂系统的关系，培养根据矩阵推演公式的能力是学
习矩阵论的目的之一。
定义一个矩阵有几种方式：可以通过定义矩阵的每一个元素
来定义一个矩阵，也可以通过矩阵具有的性质来定义一个矩
阵。如：对称矩阵可以定义为：a ij =a ji
也可以定义为: (x, Ay)=(Ax,y),
还可以定义为： Ax= f(x), 其中f(x)=xT Ax/2,即它对向量x
的作用相当于函数f(x)在x 处的梯度。
2. 矩阵可以表示为图像
矩阵的大小可以表示为图像。反之，一幅灰度图像本身
就是矩阵。图像压缩就是矩阵的表示问题. 这时矩阵相邻元
素间有局部连续性，既相邻的元素的值大都差别不大。
3. 矩阵是二维的(几何性质)
矩阵能够在二维的纸张和屏幕等平面媒体上表示，使得
用矩阵表示的问题显得简单清楚，直观，易于理解和交流。
很多二元关系很直观的就表示为矩阵，如关系数据库中的属
性和属性值，随机马尔科夫链的状态转移概率矩阵，图论中
的有向图或无向图的矩阵表示等。
第一章：线性空间和线性变换
1. 线性空间
集合与映射
集合是现代数学最重要的概念，但没有严格的定义。
集合与其说是一个数学概念，还不如说是一种思维方式，即
用集合(整体) 的观点思考问题。整个数学发展的历史就是从
特殊到一般，从个体到整体的发展历程。
集合的运算及规则，两个集合的并、交运算以及一个集合
的补；集合中元素没有重合，子集，元素
设S ，S' 为集合
映射：为一个规则σ：S → S', 使得S 中元素a 和S' 中元素对
应， 记为 a'=σ(a),或σ：a →a'.
映射最本质的特征在于对于S 中的任意一个元素在S' 中仅有
唯一的一个元素和它对应。
映射的原象，象；映射的复合。满射, 单射, 一一映射。
若S' 和S 相同，则称σ为变换。
若S' 为数域，则称σ为函数。
线性空间的定义和性质
定义1.1设V 是一个非空集合，它的元素用x,y,z 等表示，并称
之为向量；K 是一个数域，它的元素用k , l , m 等表示，如果V 满
足下列条件
(I) 在V 中定义一个加法运算，即当x , y ∈V 时，有惟一的
x +y ∈V ，且加法运算满足下列性质
(1)
(2)
(3)
(4) 结合律x +(y +z ) =(x +y ) +z ; 交换律x +y =y +x ; 存在零元素0，使x+0=x； 存在负元素，即对任何一向量x ∈V , 存在向量y ，使
x+y=0，则称y 为x 的负元素，记为-x ，于是有
x+(-x) = 0
(II) 在V 中定义数乘运算，即当x ∈V , k∈K, 有唯一的k x ∈V , 且
数乘运算满足下列性质
（5）数因子分配律 k (x+y)=k x+k y ;
(6) 分配律 （k +l ）x = k x+l x ;
(7) 结合律 k (l x)=(k l ) x ;
(8) 1 x = x
则称V 为数域K 上的线性空间或向量空间。
特别地， 当K 为实数域R 时，则称V 为实线性空间；
当K 为复数域C 时，则称V 为复线性(酉) 空间。
例：次数不超过n -1的多项式P n 全体按照通常的多项式加法和
数乘构成一个线性的多项式函数空间；
即：f(x)=a0x n -1+a1x n -2+…+an -2x+an -1
g(x)=b0x n -1+b1x n -2+…+bn -2x+bn -1
定义 f(x)⊕g(x)=f(x)+g(x),
k ⋅f(x)=(k ⋅a 0)x n -1+(k ⋅a 1)x n -2+…+(k ⋅a n -2)x+k ⋅a n -1
n 维实向量的全体按照通常的向量加法和数乘构成一个实线性
空间, 我们把这个空间称为实向量空间；
即：x, y∈R n ， 定义：(x⊕y) i =xi +yi ,(k ⋅x) i =k ⋅x i
所有m ⨯n 实矩阵的全体按照通常的矩阵加法和数乘构成一个实
线性空间，称之为矩阵空间；
由例如，取V=R, x,y∈V , 定义 x ⊕y=(x3+y3) 1/3, k ⋅x=k 1/3x ，k ∈R.
易验证这样定义的加法和数乘仍然构成一个线性空间。
线性空间中，向量的关系：
线性相关：若存在一组不全为零的数c 1,c 2,…,cm , 使得
c 1x 1+c2x 2+…+cm x m =0
则称向量组x 1,x 2,…,xm 线性相关，否则为线性无关。
极大线性无关组：一个不可能再往里添加向量而保持
它们的线性无关性
引理1.1：线性无关组总是可以扩充为极大线性无关组。
例如：x 1=(1,0,0)T ,x 2=(0,1,0)T , 则设
x 3=(*, *, α) T ,
其中*表示任意的数，只要α≠0，则x 1,x 2,x 3就为极大线性无关组。
引理1.2：在一个线性空间中任两个极大线性无关组若它们的所
含向量个数都有限，则所含向量个数一定相同.
证明：设x 1, x 2, …, x m 和y 1, y 2, …, y n 为线性空间V 中的两个极
大线性无关组。则存在矩阵A , B 使得
(x 1, x 2, …, x m )=(y 1, y 2, …, y n ) A (1)
(y 1, y 2, …, y n )=(x 1, x 2, …, x m ) B (2)
将式(1)代入式(2)可得
(y 1, y 2, …, y n )=(x 1, x 2, …, x m ) B =(y 1, y 2, …, y n ) AB (3)
另一方面，我们知道
(y 1, y 2, …, y n )=(y 1, y 2, …, y n ) E n (4)
其中， E n 为n 阶单位矩阵。由于 y 1, y 2, …, y n 为极大线性无关
组，因此表示系数矩阵应该唯一，也就说，由式(3)和式(4)
可得 AB = E n ， 由此有
trace(AB )= trace(E n )= n (5)
类似地，将式(2)代入式(1)可得
(x 1, x 2, …, x m )=(x 1, x 2, …, x m ) BA=(x 1, x 2, …, x m ) E m ,
再由 x 1, x 2, …, x m 为极大线性无关组可得BA = E m , 由此有
trace(BA )= trace(E m )= m (6)
这样利用矩阵迹算子trace( ) 的性质，联合式(5)和式(6)可得
n = trace(AB )= trace(BA )=m 。
因此，这两个极大线性无关组所含向量个数相同。
(定义) 线性空间V 的维数：V 中极大线性无关组的所含向量的个
数，定义为线性空间的维数。
维数有限的称为有限维空间，否则称为无穷维空间。
这个定义之所以有意义，是因为在引理1.2中我们证明了极大线
性无关组的个数是相同的。
本书仅仅研究有限维空间，这里得到的结论有些可以直接推广到
无穷维空间，但有些却不可能。必须小心！
在后面的讨论中我们仅仅讨论有限维空间，而不一一说明。
线性空间中向量的表示
线性空间的基：若线性空间V 的向量x 1,x 2,…,xr 满足
1） x 1,x 2,…,xr 线性无关；
2） V 中的任意向量x 都是x 1,x 2,…,xr 的线性组合； 则称x 1,x 2,…,xr 为V 的一个基或基底，相应地称x i 为基向量。 推论1.1： 线性空间中任意一组极大无关组构成它的一个基。 定义1.2：称线性空间V n 的一个基x 1,x 2,…,xn 为V n 的一个坐标系。设向量x ∈V n , 它在该个基下的线性表示为
x = c1 x1+c2x 2+…+cn x n
则称 c 1,c 2,…, c n 为x 在该坐标系下的坐标或分量，有时我们称 n 维向量(c1,c 2,…, c n ) T 为向量x 在该个基下的表示。
这实际定义在V 和R n 或(Cn ) 的之间一一映射
σ: V→ Rn (或C n )
即
σ: x∈V → (c1,c 2,…, c n ) T ∈R n (或C n )
数域相同的线性空间和n 维列向量空间的关系：
定理1.2 在一个基下我们看到任意n 维线性空间V 和n 维列向量空间R n (或C n ) 代数同构, 即存在V 和R n 或(Cn ) 的之间一一映射
σ:V→ Rn (或C n )
使得
σ(x+y)= σ(x)+ σ(y), x, y∈V
σ(kx) =k σ(x), x ∈V , k∈K ，
也就是σ保持加法和数乘运算。
(按后面的定义，σ实际为可逆的线性映射) 。
这个定理说明虽然n 维线性空间有无穷多，但是从代数的角度我们仅仅研究n 维实(或复) 向量空间就足够了。
例如：前面介绍次数不超过n -1的多项式全体按照通常的多项式加法和数乘构成一个线性的多项式函数空间P n ，选择P n 的一个基x 1=1,x2=x,x3=x2, …,x n =xn -1, 则任意次数不超过n -1的多项式 f(x) = a0x n -1+a1x n -2+…+an -2x+an -1
= (1,x,x2, …,)( an -1, an -2, …, a0) T
这样( an -1, an -2, …, a0) T 就是多项式f(x)在基x 1,x 2,…,xn 的坐标。显然我们可以看成将f(x)映射为( a n -1, a n -2, …, a 0) T ，这时明显可见映射为线性的，即若
σ: f(x)→ ( an -1, an -2, …, a0) T
σ: g(x)→ ( bn -1, bn -2, …, b0) T
则 σ: f(x)+g(x)→ (an -1+bn -1, an -2+bn -2, …, a0+b0) T
基变换与坐标变换
在线性空间V n 中，同一向量对不同的基，它的坐标表示是不一样的。当由一个基x 1,x 2,…,xn 变换为另一个基y 1,y 2,…,yn 时, 则由基的定义可得
y 1=c11x 1+c21x 2+…+cn1x n
y 2= c12x 1+c22x 2+…+cn2x n
:
y n = c1n x 1+c2n x 2+…+cnn x n
或用矩阵形式写为
Y = XC 称为基变换公式 (1.1)
其中矩阵C 为
c 11 c 12 … c1n
c 21 c 22… cn2 称为由旧基到新基的过渡矩阵。
:
c n1 c n2…cnn
Y=(y1,y 2,…,yn ), X= (x1,x 2,…,xn )
实(复) 矩阵A 为奇异矩阵定义为：存在非零n 维实(复) 向量x 使得Ax = 0.
推论1.2 过渡矩阵非奇异. (自行证明)
从推论1.2我们可以发现， 任何一个非奇异矩阵都可以看成是 线性空间的两个基之间的过渡矩阵，换句话说，是一个基在另一个基下的坐标表示。
向量在不同基下的表示坐标的关系：
设由一个基x 1,x 2,…,xn 变换为另一个基y 1,y 2,…,yn 时过渡矩阵为C, 向量x 在基x 1,x 2,…,xn 和基y 1,y 2,…,yn 的坐标表示分别为
ξ =[ξ1, ξ2,…,ξn ]T , η =[η1, η2,…,ηn ]T 则有
x=X⋅ξ=Y⋅η=(X⋅C) ⋅η= X⋅(C ⋅η), 从而有ξ=C⋅η或者η=C-1⋅ξ 或用分量形式推导得
x =∑ξi x i =∑ηk y k =∑ηk ∑c ik x i =∑x i ∑c ik ηk
i =1k =1k =1i =1i =1k =1n n n n n n
即为 ξ=C⋅η
线性子空间
定义：设V 1是数域K 上线性空间V 的非空子集合，且对V 已有的线性运算满足以下条件
(1)对加法封闭： 若x, y∈V 1，则x+y∈V 1
(2)对数乘封闭：若x ∈V 1，k ∈K, 则k ⋅x ∈V 1.
则称V 1为V 的线性子空间或子空间。
仅由0元素构成的子空间为零子空间。
注意：零子空间的维数为0而不是1。
子空间的运算：交， 和， 直和
两个子空间V 1,V 2的交V 1⋂V 2仍为子空间。 定义1.8 设V 1, V2为数域K 上的线性空间V 的子空间，且x ∈V 1, y ∈V 2, 则由x+y 的全体构成的集合称为V 1和V 2的和，记为 V 1+V2. 记V 1+V2={z | z=x+y, x∈V 1,y ∈V 2}。
显然, 两个子空间V 1, V2的和V 1+V2仍为子空间, 并且交与和分别满足结合律， 即(V1⋂V 2) ⋂V 3=V1⋂(V2 ⋂V 3),
(V1+V2)+ V3=V1+(V2 +V3),
从而它们都可以推广到几个子空间的情形, 并且
V 1⋂V 2 ⋂… ⋂V n 或V 1+V2 +… +Vn 有意义。
子空间的维数公式：dim V1+dim V2=dim (V1+V2)+dim(V1⋂V 2)
直和的定义： 若V 1⋂V 2=0,则V 1+V2为V 1,V 2的直和，记为 V 1⊕V 2。
性质：对于V 1⊕V 2中的元素z , 在V 1和V 2分别存在唯一x 和y 使得z = x + y . 即z 的分解唯一。
显然有V 1⊕V 2⇔ dim(V1⋂V 2)=0
⇔ dim V1+dim V2=dim (V1⊕V 2)
子空间的构成：1）由几个子空间的交或和构成。
2）向量x 1,x 2,…,xm 组扩张而成。
由单个非零向量x 对数乘运算封闭构成的一维子空间 L(x )={z | z =k ⋅x , k ∈K}.
同理记L(x 1, x 2,…,x m )=L(x 1)+L(x 2)+…+L(x m )
显然dim(L(x 1, x 2,…,x m )) ≤ m
思考题1：一个n 维线性空间的真子空间有多少？
思考题2：若V 1,V 2, …,Vm 为线性空间V 的真子空间，证明存在 一个向量x ∈V , 但x ∉V 1⋃V 2⋃ …⋃V m 成立。
特别讨论在实线性空间R m 中矩阵A=(aij ) ∈R m ⨯n 的列向量构成的子空间L(a1,a 2,…,an ) 称为矩阵A 的值域(列空间), 记为
R(A)=L(a1,a 2,…,an ) ⊂R m
矩阵的秩
矩阵的列秩：由矩阵的列向量构成的最大无关组的个数。 矩阵的行秩：由矩阵的行向量构成的最大无关组的个数。 定理: 矩阵的行秩和列秩相同。
证明：由于 rank(A)=rank(AAT ) ≤rank(AT )
同样，rank(AT ) ≤rank(A)
这样，rank(A)= rank(AT ) ，
即矩阵的行秩和列秩相同.
从而它们称为矩阵的秩，记为rank(A).
定理 dim(R(A))=rank(A).
定义1.7 设在实线性空间R n 中矩阵A=(aij ) ∈R m ⨯n , 称集合{x|Ax=0}为矩阵A 的核空间, 记为N(A),即N(A)={x|Ax=0}∈R n .
称N(A)的维数为A 的零度，记为n (A),即n (A)=dim(N(A)). 定理： dim(R(A))+dim(N(A))=n .
思考：若A ∈C n ⨯n ,R(A)⊕N(A)成立吗？举例说明？
成立的条件是什么？
2 线性映射, 线性函数，线性变换及它们的矩阵表示
表示是什么？表示究是本质来说是一种映射，它把我们不熟悉或抽象的事物映射为我们熟知或具体的事物。
例如：抽象的线性空间在一个基下可表示为实或复的向量空间。 同样地，线性空间之间的线性映射都可以表示为矩阵。这正是矩阵的代数本质所在。(向量为特殊的矩阵)
这就是本节所研究的内容。
定义：数域相同的线性空间X 到线性空间Y 的映射T 称为线性映射，若T 满足下列条件：1) T(x+y)=T(x)+T(y)
2) T(k x)=k T(x)
若线性空间W 和线性空间V 的维数分别为：m=dim(W),n=dim(V)
x 1,x 2,…,xm 以及y 1,y 2,…,yn 分别为W 和V 的一个基， 则线性映射可以表示为一个R n ⨯m (或者C n ⨯m ) 的矩阵。 设向量Tx i 在基y 1,y 2,…,yn 的坐标表示为
Tx i =(y1,y 2,…,yn ) (a 1i , a 2i ,…,a ni ) T =(y1,y 2,…,yn ) a i , i=1,2,…,m 记矩阵A=(a 1, a 2,…,a m ) ，
而基为 Y=(y1,y 2,…,yn ), X= (x1,x 2,…,xm ) 。
则有 TX=(Tx1,Tx 2,…,Txm )=Y ⋅A (2.1)
对任意向量x 在基x 1,x 2,…,xm 的坐标表示为ξ =[ξ1, ξ2,…,ξm ]T ，向量T x 在基y 1,y 2,…,yn 的坐标表示为η =[η1, η2,…,ηn ]T ，那么我们有 T x =Y⋅η=T(X⋅ξ)=(TX) ⋅ξ=(Tx1,Tx 2,…,Txm ) ⋅ξ
=Y⋅(Aξ )⇒ η=Aξ (2.2)
从而对于线性映射T ，在基X 和Y 的下的表示为矩阵A. T : x → y = T x 其中x=Xξ, y=Yη
↓ ↓ ↓ ↓
A: ξ → η = A ξ
注意对于同一映射，若基X 和Y 选择不同，则T 的表示A 一般不相同。
一个很自然的问题就是各种表示之间的关系如何？
若用映射的形式我们可以表示为:
A=σ(T; X,Y) (2.3)
设线性空间W 的另一组为X', 且X'=XC,
线性空间V 的另一组为Y', 且Y'=YD,或Y=Y' D-1
(注意，因为C 和D 分别为过渡矩阵，从而可逆)
设线性映射T 在基X' 和Y' 下的矩阵为A', 即 TX'=Y' A' 则 TX'=T(XC)=(TX)C(由(2.1))
=(YA)C=Y(AC)=Y'D-1AC=Y'A'
从而我们有 A'= D-1AC (2.4)
这就是线性映射在不同基下的矩阵表示的关系式。
注意： D ∈R n ⨯n , A ∈R n ⨯m , C∈R m ⨯m .
线性映射的复合： S: W →V; T: V→Z
定义 (TοS)(x)=T(S(x)).
其中W, V和Z 为线性空间， S 和T 都为线性映射。
很明显， 线性映射的复合仍为线性映射。
设x 1, x2,…,xm 为W 的一个基，
y 1,y 2,…,yn 为V 的一个基
z 1,z 2,…,zr 为Z 的一个基，
S 在W 和V 的当前基下的表示为A,
而T 在V 和Z 的当前基下的表示为B ，
则它们的复合T οS 在当前基下的矩阵表示为BA.
由于映射的复合一般不可交换，从而对应的矩阵的乘法也不可交换， 即 BA=AB一般不成立。
思考题：根据（2.3），若用映射的形式我们可以表示为:
BA=σ(TοS; X, Z)
可见，T οS 的矩阵表示和V 的基Y 的选择无关，假如选择另外 一组V 的基Y ', 证明这一点。
定理：设T 为线性空间W 到线性空间V 的线性映射，则W 内的线性子空间W 1在V 中的象V 1为V 的线性子空间。
反之， V 中的线性子空间V 1的逆象
T -1(V1)={ x | ∃ y ∈V 1 s.t. y=Tx }
也为W 中的线性子空间。
证明：利用子空间的定义，显然可以得到。
定理：设T 为线性空间W 到线性空间V 的线性映射，W 1，W 2为W 内的子空间，则
1). T(W1+W2)= T(W1)+T(W2)
2). T(W1⋂W 2) ⊂ T(W1) ⋂T(W2) (思考为什么等式不能成立？)
记R(T)为W 在V 中的象，称之为值域， 即
R(T)={ y∈V | y=Tx, ∀ x∈W }
记N(T)为V 中零向量空间的逆象T -1(0),称之为T 的核，即
N(T)={ x| Tx=0, x∈W }
T 的值域R(T)的维数dim(R(T))称为T 的秩，其核子空间的维数dim(N(T))称为T 的亏度。
dim(R(T))+ dim(N(T))=dim(W)
证明：设x 1,x 2,…,x r 为N(T)的一个基，扩充它们使之为W 的一个基：x 1,x 2,…,xr ,x r+1,…,xn , 那么我们证明T(xr+1),…,T(xn ) 为R(T)的一个基。
首先证明T(xr+1),…,T(xn ) 线性无关. 设t r+1T(xr+1)+…+tn T(xn )=0 则T(tr+1x r+1+…+tn x n )=0,从而t r+1x r+1+…+tn x n ∈N(T)
所以t r+1x r+1+…+tn x n 能够被x 1,x 2,…,xr 线性表示。因此存在t 1,…,tr 使得t 1x 1+…+tr x r =tr+1x r+1+…+tn x n , 即
t 1x 1+…+tr x r -t r+1x r+1-…-t n x n =0
因此t 1=t2=…=tr =tr+1=…=tn =0
这样就说明T(xr+1),…,T(xn ) 线性无关。
其次我们证明对于任给y ∈R(T)，y 能被T(xr+1),…,T(xn ) 线性表示. 由于y ∈R(T)，因此存在x ∈W 使得y=T(x). 由于
x 1,x 2,…,xr ,x r+1,…,xn 为W 一个基，因此存在t 1,…,tr ,t r+1,…,tn 使得 x=t1x 1+…+tr x r +tr+1x r+1+…+tn x n
从而 y=T(x)=T(t1x 1+…+tr x r +tr+1x r+1+…+tn x n )
= t1T(x1)+…+tr T(xr )+tr+1T(xr+1)+…+tn T(xn ) = tr+1T(xr+1)+…+tn T(xn )
因此y 能够被T(xr+1),…,T(xn ) 线性表示。同时由于T(xr+1),…,T(xn ) 线性无关。这样它们就构成了R(T)的一个基。从而有 dim(R(T))+ dim(N(T))=dim(W)
证毕.
例：对于R n 到R m 的线性映射T, 对于任给x ∈R n ,T(x)=Ax,其中A 为R m ⨯n 的矩阵，这时R(T)=R(A)，即A 的列向量构成的线性子空间. N(T)为Ax=0的解的全体构成的子空间.
由dim(R(T))+ dim(N(T))=dim(W)可以看出，Ax=0的基础解系的个数为n -r(A)，其中r(A)=R(T)为A 的秩. 这个结论我们在高等数学里已经得到过.
对于W 到V 的两个的线性映射T 1和T 2分别定义它们的加法和数乘如下：
(T1+T2)(x)=T1x+T2x (2.4)
(k T 1)(x) = k (T1x) (2.5)
那么有以下定理：
定理2.4：所有W 到V 的线性映射的全体按(2.4)和(2.5)定义的加法和数乘构成一个线性空间。这个空间的维数为mn.
从这里我们可以看到，借助矩阵表示，我们可以完全利用矩阵运算研究线性映射，其实反过来也是对的，即，有时我们可以借助线性映射来研究矩阵。有时候，如果我们利用线性映射的某些特点可以证明矩阵的某些性质，如下例所示。
例 设A ∈C m ⨯n , B∈C n ⨯p . 则N(AB )=B -1{N(A ) ⋂R(B)},
线性映射复合的维数公式：
dim(N(AB ))=dim(N(B ))+ dim(N(A ) ⋂R(B ))
dim(R(AB ))=dim(R(B )) - dim(N(A ) ⋂R(B ))
所以可以证明，rank (A)+rank(B)-n ≤rank(AB)
dim(R(AB))+dim(R(BC))- dim(R(B))≤ dim(R(ABC))
证明：1). 显然 N(AB )=B -1{N(A ) ⋂R(B)}成立;
2). 欲证dim(N(AB ))=dim(N(B ))+ dim(N(A ) ⋂R(B )) ， 显然存在x 1,x 2,..,x r ∈C p 使得
Bx 1, Bx2,.., Bxr 为N(A ) ⋂R(B)的一个基，
那么显然x 1, x 2,.., x r 线性无关。
再取N(B)的一个基为x r +1, x r+2,.., x s , 那么可以证明
x 1, x 2,.., x r , xr +1, x r+2,.., x s , 为N(AB ) 的一个基。从而有
dim(N(AB ))=dim(N(B))+ dim(N(A ) ⋂R(B))
类似地可以证明
dim(R(AB ))=dim(R(B)) - dim(N(A ) ⋂R(B))
或者由
dim(R(AB))+dim(N(AB))=dim(R(B))+dim(N(B))
可得dim(R(B))- dim(R(AB))=dim(N(A ) ⋂R(B))
3). dim(R(B))- dim(R(AB))=dim(N(A ) ⋂R(B))
≤ dim(N(A ))=n - dim(R(A))
因此有rank (A)+rank(B)-n ≤rank(AB)
等号成立的充要条件是N(A)⊂R(B).
同样的
dim(R(BC))- dim(R(ABC))=dim(N(A ) ⋂R(BC))
≤ dim(N(A ) ⋂R(B))
= dim(R(B))- dim(R(AB))
因此有
dim(R(AB))+dim(R(BC))- dim(R(B))≤ dim(R(ABC))
等号成立的条件就是
N(A ) ⋂R(BC)= N(A ) ⋂R(B)
因此这个例子说明，线性映射和矩阵之间的相互关系，既可以利用矩阵讨论线性映射的性质，也可以利用线性映射讨论矩阵的性质，二者之间建立联系是有助于矩阵研究的。
几个特殊的线性映射：
1）线性函数，即取 V=R1, 或C 1称之为实或复线性函数。在泛
函分析中称之为线性泛函。
2) 线性变换：若线性映射T 为：W →W, 则称T 为线性变换。 线性映射和线性映射的区别：
1. 线性映射T ：W →V ,
线性变换T: W →W.
2. 线性映射的矩阵表示A 与W 和V 的选择基有关。 线性变换的矩阵表示A 仅需选择W 的一个基而不是两个基。
区别2的意思是，线性空间W 上的线性变换T 的矩阵表示A 仅需选择一个基x 1,x 2,…, xn , 那么
Tx i =(x1,x 2,…,xn ) (a1i ,a 2i ,…,ani ) T =(x1,x 2,…,xn )a i , i=1,2,…,n 这时有TX=XA.
( 我们称A 为线性变换T 在线性空间W 的基x 1,x 2,…, xn 的矩阵表示。)
这时如果将T 看作W →W 的线性映射，我们分别选择W 的两个基X= (x1,x 2,…,xm ) 和Y=(y1,y 2,…,yn ) ，这时T 的矩阵A 表示为 Tx i =(y1,y 2,…,yn ) (a1i ,a 2i ,…,ani ) T =(y1,y 2,…,yn )a i , i=1,2,…,m 这时有TX=Y A.
在以后，我们所线性变换时，仅需选择一个基。
由于线性变换仅为线性映射的特殊情形，因此前面讨论的关于线性映射的所有定义和性质对线性变换都适应，我们不必重复。
下面我们仅讨论线性变换的特殊之处。
线性变换的矩阵表示在不同基下的关系：
设线性空间W 的两组不同基X 和X' 之间满足关系
X'=XC
那么线性变换T 在基X 和X' 下的矩阵表示分别为A 和A', 则 A'= C-1AC
定义： 线性变换在不同基下的表示矩阵称为相似矩阵。 定理: 矩阵A 和A' 相似的充要条件为存在可逆矩阵C
使得 A' = C-1AC
容易验证矩阵相似关系为等价关系。
即， 自反性：A 和A 相似；
对称性：若A 和B 相似，则B 和A 相似；
传递性：若A 和B 相似，B 和C 相似，则A 和C 相似。
从这儿我们可以看出，在相似等价意义下具有的性质有时也称线性变换的性质。例如，相似的矩阵具有相同的行列式，所以我们可以认为线性变换的对应矩阵的行列式为线性变换对原空间的单位超立方体经变换后的多面体的体积。这正是多元积分的变量替换的Jacobi 行列式。
又如 我们知道，相似的矩阵具有相同的的特征多项式，所以我们可以定义线性变换的特征多项式。同样可以导出线性变换的特征值，线性变换的迹(定义为线性变换的所有特征值的和) 。
几个特殊的变换：
零变换T 0： T 0(x)=0.
恒等变换I ： I(x) = x.
数乘变换T k : T k (x)= k ⋅x.
正交变换T ： ||Tx||2=||x||2, 其中||.||2为欧氏范数(第2章介绍)
对于复合变换T οT 记为T 2, 类似地， 记T k +1=Tk οT,
显然若线性变换T 的矩阵表示为A, 则T k 的矩阵表示为A k , 从而线性变换f (T)=a0T m +a1T m -1+…+am -1T+am I
（此处I 表示恒等变换）
的矩阵表示为矩阵多项式：
f (A)= a0A m +a1A m -1+…+am-1A+am E n
其中E n 表示单位矩阵。
线性变换的特征值和特征向量
由于线性变换在不同基下的矩阵表示不相同，那么一个很自然的问题就是，怎样选择特殊的基使得给定线性变换在该个基下的表示矩阵最简单。
为此引入下列概念.
定义： 若存在非零向量x 和数λ满足
Tx=λ x
则称λ为T 的特征值， x 为相应的特征向量。
注意： 由定义，特征向量非零。
定义：矩阵A 的特征矩阵λI -A 的行列式det(λI -A)=|λI -A|, 称为矩阵A 的特征多项式，记为ϕ(λ) 。ϕ(λ) 的根λ0为A 的特征根或特征值；相应方程(λ0I -A)x=0的非零解x 称为A 的属于λ0的特征向量。
若线性变换T 在线性空间的一个基X 下的矩阵表示为A, 即
T X=(Tx1,Tx 2,…,Txn )=XA
设T 的特征向量x 在基X 的坐标表示为ξ，即
x=ξ1x 1+ξ2x 2+…+ ξn x n =X(ξ1, ξ2,…, ξn ) T =Xξ
那么有 X(λ0⋅ξ)=λ0x=Tx=T Xξ=XAξ
从而 λ0⋅ξ= Aξ，
由于上述推导可以倒推， 因此求线性变换T 的特征值λ0和特征向量x 等价于在一个基X 下求T 的表示矩阵A 的特征值λ0和特征向量ξ。这时ξ为x 在基X 下的坐标， 即 x=Xξ。
定义(特征子空间) ：设λ0为线性变换T 的一个特征值，称线性变换λ0I -T 的核空间V λ0={x | (λ0I -T)x=0 } 为T 的属于λ0的特征子空间， 其中I 表示恒等变换。
定义：变换矩阵A 的迹 Trace(A)=Tr(A)=∑a ii
i =1n
性质1：Tr(A)等于A 的所有特征值的和.
由根与系数的关系可得。
性质2： Tr(AB)=Tr(BA).
性质3： 对任意可逆矩阵P ， Tr(A)=Tr(P-1AP), 这说明矩阵A 的迹由线性变换T(在某种基下对应于矩阵A) 决定，与基(坐标) 的选择无关。
矩阵的性质
定理1.16(Sylvester) 设A ∈R m ⨯n , B∈R n ⨯m ， AB 的特征多项式为ϕAB (λ) ， BA 的特征多项式为ϕBA (λ), 则λn ϕAB (λ)=λm ϕBA (λ) 证明：根据矩阵等式有：
I m 0 m I m -AB 0
-B I n 0 λ B I n
I m λI m λI m A
I λB λ 0 λI n 对矩阵等式取行列式可得结论。
特殊矩阵：严格下三角矩阵L, 对角矩阵D
下三角矩阵D+L， 单位下三角矩阵I+L， 严格下三角矩阵L ， 上三角矩阵D+LT ， 单位上三角矩阵I+LT ， 严格上三角矩阵L T ，
块对角矩阵， 块三角矩阵;
初等矩阵(定义): E(u , v ；σ)=I-σuv H
性质1: E(u , v ; σ)E(u , v ; τ)= E(u , v ; σ+τ-στv H u );
性质2: det(E(u,v; s))=1- s ⋅v H u
性质3. L n =0
性质4. 若对角矩阵D 的元素各不相同，对于变换矩阵A 有DA=AD, 则 A 为对角矩阵。
定理1.17 任意n 阶矩阵A 与三角矩阵相似.
证明:对阶数n 利用数学归纳法证明. 当n=1时显然成立.
设当阶数为n -1时定理成立。下面证明定理对n 阶矩阵仍然成立，设x 1,x 2,…,xn 是n 个线性无关的列向量，其中x 1为A 的特征值λ的特征向量，即A ⋅x 1=λ⋅x 1, 记P=(x1,x 2,…,xn )
于是AP=(Ax1,Ax 2,…,Axn )=(λ⋅x 1,Ax 2,…,Axn )
由于Ax i ∈C n , 因此Ax i 可以由x 1,x 2,…,xn 唯一地线性表示，即有 Ax i =b1i x 1+b2i x 2+…+bni x n i= 2,3,…,n
于是AP=(λ⋅x 1,Ax 2,…,Ax n )
⎛λb 12 0b 22=(x1,x 2,…,xn ) 0b n 2⎝ b 1n ⎫⎪ b 2n ⎪ ⎪ ⎪ b nn ⎪⎭
即 ⎛λb 12 b 1n ⎫ 0⎪-1⎪ P AP= A 1 ⎪ ⎪⎝0⎭
由归纳假定，对于n -1阶矩阵A 1存在矩阵Q 使得Q -1A 1Q=U,
其中U 为上三角矩阵.
记R=⎛10T ⎫ 0Q ⎪⎪⎝⎭
⎛10T ⎫APR= 0Q -1⎪⎪⎝⎭, S=PR, 则有S AS=RP -1-1-1⎛λb 12 b 1n ⎫ 0⎪T ⎛⎫10 ⎪ ⎪ ⎪A 1 ⎪ ⎝0Q ⎭ ⎪⎝0⎭
= ⎛λb 12 b 1n ⎫⎛λb 12 b 1n ⎫ 0⎪ 0⎪ ⎪= ⎪ -1Q A 1Q ⎪ U ⎪ ⎪ ⎪⎝0⎭⎝0⎭
为上三角矩阵.
定理1.18 (Hamilton-Cayley) n 阶矩阵A 是其特征多项式的根， 即设ϕ(λ)=det(λI -A)=λn +a1λn -1+…+an-1λ+an
则 ϕ(A) =An +a1A n -1+…+an-1A+an I=0.
证明略.(可以对矩阵阶数n 使用数学归纳法，利用定理1.17很简单的证明)
设对于n -1阶矩阵定理成立，那么对于n 阶矩阵A, 由定理1.17可得存在可逆矩阵P 和上三角矩阵R 使得 P -1AP=R.
很明显，A 和R 有相同的特征多项式ϕ(λ) ，并且P -1ϕ(A)P=ϕ(R),因此如果能够证明ϕ(R)=0，那么ϕ(A)=0也就能够成立了。 事实上，设A 的n 个特征值为λ1, λ2, …, λn ，
⎛R 1R= ⎝0α⎫, λn ⎪⎭
那么ϕ(R)=(λ1E n -R) (λ2E n -R) ...(λn -1E n -R) (λn E n -R)
= -α⎫-α⎫-α⎫⎛λn E n -1-R 1⎛λ1E n -1-R 1⎛λn -1E n -1-R 1…⎪ ⎪ ⎪ 0λn -λn ⎭0λ1-λn ⎭⎝0λn -1-λn ⎭⎝⎝
其中α为n -1维列向量。根据上三角矩阵的乘积的对角块矩阵为相应对角块矩阵的乘积，那么
ϕ(R)=
推论：任何一个n 阶可逆矩阵A 的逆可以表示为A 的次数不超过n -1的多项式，即A -1=g(A)，其中g(x)的为次数不超过n -1的多项式.
定义19. 在所有首项系数为1的多项式中使得A 成为它的根的最小次数多项式m(λ) 称为A 的最小多项式。
定理1.19 矩阵A 的最小多项式m(λ) 可整除以A 为根的任意首项系数为1的多项式ψ (λ) ， 且m(λ) 是唯一的。
定理1.20矩阵A 的最小多项式m(λ) 和特征多项式ϕ (λ) 的零点相同。
定理1.21 设n 阶矩阵A 特征多项式ϕ (λ) ，特征矩阵λI -A 的全体n -1阶子式的最大公因式为d(λ) ，则A 的最小多项式为 m(λ)=ϕ (λ)/d(λ)
定理1.22 如果λ1, λ2,…,λs 是矩阵A 的互不相同的特征值，（R 1）⎛φ 0⎝β⎫⎛λE -R -α⎫⎪ n n -11⎪， (λj -λn ) ⎪∏00⎭j ≠n ⎭⎝
x 1,x 2,…,xs 是分别属于它们的特征向量， 那么x 1,x 2,…,xs 线性无关。
定理1.23如果λ1, λ2,…,λk 是矩阵A 的互不相同的特征值，x i1,x i2,…,xi ri是属于λi 的线性无关的特征向量， 那么
x 11,x 12,…,x1r1,…, xk1,x k2,…,xkrk 线性无关。
证明：对k 利用数学归纳法可得结论.
不变子空间
定义1.20 如果线性空间V 的线性子空间V 1对线性变换T 保持不变，即，任给x ∈V 1 , 有Tx ∈V 1, 则称V 1为T 不变子空间. 定义1.21 设T 为线性空间V 的线性变换，若V 1为T 不变子空间，这时T 可以看作V 1的线性变换，记T 在V 1上的限制为T|V1。
不变子空间的性质：
性质1. 不变子空间的和与交仍为不变子空间。
性质2. 线性变换T 的值域R(T)，核N(T)仍为不变子空间。
性质3. 设f (t ) 为多项式，则T 的不变子空间为f (T)的不变子空间，N(f (T))为T 的不变子空间，从而特征子空间
V λ={x| Tx=λx}为T 的不变子空间。
证明: 设V 1为T 的不变子空间，则任给x ∈V 1有Tx ∈V 1, 从而 T 2x=T(Tx)∈V 1, 因此有T k x ∈V 1, 对任何的非负整数成立。因此有V 1为f (T)的不变子空间。
设x ∈N(f (T)), 则有f (T)x=0. 并且f (T)(Tx)=T(f (T)x)=0 因此Tx ∈N(f (T)),从而N(f (T))为T 的不变子空间.
推论：若T 为可逆变换，则T 的不变子空间也是T -1的不变子空
间.
证明: 利用结论T -1可以表示为T 的多项式, 即T -1=g(T)可得结
论.
利用不变子空间简化线性变换的矩阵
定理1.27 设T 是线性空间V n 的线性变换，且V n 可分解为s 个T 的不变子空间的直和 V n =V1⊕V 2⊕…⊕V s
在每个不变子空间V i 中选取一个基
x i1,x i2,…,xini i =1,2,3,…,s
它们的合并构成V n 的一个基，则T 在该个基下的矩阵为块对角矩阵 A=diag(A1,A 2,…,As )
推论1： 线性变换可对角化的充要条件为存在一组特征向量构成的基。
推论2 设λ1, λ2,…,λk 是线性变换T 的全部的k 互不相同的特征
值，则T 可对角化的充要条件为
dim(N(λ1I -T))+ dim(N(λ2I -T))+…+ dim(N(λk I -T))= n
推论3 若线性变换T 有n 个互不相同的特征值，则T 可对角化。
Jordan 标准形
定理1.28 设T 是复数域C 上的线性空间V n 的线性变换， 任取V n 的一个基， T 在该基下的矩阵为A ， T 的特征多项式 ϕ(λ)=det(λI -A)=(λ-λ1) m (λ-λ2) m (λ-λs ) m 12s
(m1+m2+…+ms =n)
则V n 可分解为不变子空间的直和
V n =N1⊕N 2⊕…⊕N s
其中N i ={x| (T -λi I ) m x=0, x∈V n }是线性变换(T -λi I ) m 的核空间。 i i
若给每个子空间N i 选一个基，它们的并构成V n 的基，且T 在该个基下的矩阵为如下形式的对角块矩阵
⎡J 1(λ1) ⎤⎢⎥J 2(λ2) ⎥ J =⎢ ⎢⎥⎢⎥J s (λs ) ⎦⎣
其中
⎡λi ⎢0J i (λi ) =⎢⎢ ⎢⎣01λi 00⎤ 0⎥⎥ 1⎥⎥ λi ⎦
定义1.21 在上面的定义中 J 称为矩阵A 的Jordan 标准形， J i (λi ) 为(λ-λi I ) m 对应的Jordan 块。 i
定理. 设矩阵A 为复数域C 的矩阵， 特征多项式的分解ϕ(λ)=det(λI -A)=(λ-λ1) m (λ-λ2) m (λ-λs ) m 12s
存在， 则存在非奇异矩阵P 使得 P -1AP= J.
定理1.30 每个n 阶复矩阵A 都与一个Jordan 标准形相似，这个Jordan 标准形除去其中Jordan 块的排列次序外，是由A 唯一确定的。
欧氏(Euclid)空间
定义： 设V 是实数域R 上的线性空间，对V 中任意两个x 和y, 按某种规则定义一个实数，用(x,y)表示，且满足下列四个条件：
1). 交换律：(x,y)=(y, x);
2). 分配律：(x,y+z)=(x, y)+(x,z)
3). 齐次性: (k x,y)=k (x,y), ∀ k∈R
4). 非负性：(x,x)≥0, 当且仅当 x=0时,(x,x)=0.
则称V 为Euclid 空间，简称欧氏空间或实内积空间.
思考：任意线性空间在它的两个向量能否定义内积， 若否，举例说明；若能，证明这一点。
例1．对于我们以前定义的线性空间V=Rn ，
x ♁y =((x13+y13) 1/3,(x23+y23) 1/3,…,(xn 3+yn 3) 1/3 )T
k ☉x=k 1/3⋅x
我们已经证明了这样定义的加法和数乘确实为线性空间。那么对于它的内积，我们可以定义为：(x,y)=(x1⋅y 1) 3 +(x2⋅y 2) 3+…+(xn ⋅y n ) 3. 例2． 对于V=R+, x ♁y =x ⋅y , k ☉x =x k , 我们已经证明了这样定义的加法和数乘确实为线性空间。那么对于它的内积，我们可以定义为： (x,y)=logx ⋅log y
例3． 对于例2的一维空间，我们可以使用笛卡尔乘积扩充为多维空间 V=R+⨯R +⨯…⨯R +, 对于任意x,y ∈V ，x=(x 1, x 2,…,x n ) T , y=(y 1, y 2,…,y n ) T 定义
x ♁y =(x 1⋅y 1, x 2⋅y 2,…,x n ⋅y n )T
k ☉x =((x 1) k , (x 2) k ,…,(x n ) k ) T , 显然可以验证这样的加法和数乘确实构成一个线性空间。对于对于任意x,y ∈V ，x=(x 1, x 2,…,x n ) T , y=(y 1, y 2,…,y n ) T 定义它们的内积为
(x, y)=log x 1⋅log y 1+log x 2⋅log y 2+…+log x n ⋅log y n
这样我们对于这个n 维线性空间，定义了一种内积。 例4. 对于一般线性空间V ，我们可以在其上选择一个基X=(x1,x 2,…,xn ) ，那么对于任意两个向量x, y∈V , 设它们的坐标分别为x →(α1, α2,…,αn ) T , y→(β1, β2,…,βn ) T , 这时我们可以定义内积为 (x,y)=α1⋅β1+α2⋅β2+…+αn ⋅βn
容易验证这样的定义仍然满足内积的条件。显然这样定义的内积与基函数的选择有关。我们可以讨论这样定义的两个不同基之间的内积的关系。(留作思考题)
作业题：针对例3中定义的线性空间，求出它的一个基，对这个基给出由例4中定义的内积，然后比较这样定义的内积和例3中定义的内积的关系。
定义： 在Euclid 空间中，非负实数(x , x ) 称为向量x 的长度(或模，范数), 记为||x||或|x|.
定义： 非零向量x 和y 的夹角定义为 =arccos
性质1 (x,k ⋅y)=k (x,y)
性质2 (x,0)=(0,x)=0
性质n ⎛n ⎫n n ⎪3. ∑ξi x i , ∑ηj y j ⎪=∑∑ξi ηj (x i , y j )
j =1⎝i =1⎭i =1j =1(x , y ) ||x ||⋅||y ||
定义Gram 矩阵A=(a ij )=( (xi ,x j ) ), 其中X=(x1,x 2,…,xn ) 为一个基。 性质4. Schwarz不等式 |(x,y)|≤ ||x||⋅||y||
证明：给定的m 个向量x 1,x 2,…,xm ，对于m 维向量 λ=(λ1, λ2, …, λm ) T , 作y=λ1⋅x 1+λ2⋅x 2+…+λm ⋅x m ,
则二次型
F (λ)=||y||=(y, y)= 2m ⎛m ⎫m m T ∑λi x i , ∑λj x j ⎪=∑∑λi λj (x i , x j ) =λB λ≥ 0
j =1⎝i =1⎭i =1j =1
其中B=(b ij ) 二次型的矩阵。由于对于任意的m 维向量λ，二次型F (λ) 为非负的。因此矩阵B 为半正定矩阵，从而det(B)≥0 特别的，当m =2时令x 1=x,x2 =y有，
B=⎛ (x , x ) (x , y ) ⎫⎪ ⎝(y , x ) (y , y ) ⎭
从而0≤det(B)=(x , x ) ⋅(y,y)-(x,y)2, 即为Schwarz 不等式。等号成立的充要条件为x 和y 相关.
推论：设x,y ∈R n ,A 为对称正定矩阵，则 |xT y| ≤ xT Ax ⋅y T A -1y （证明留作思考题）
性质5. 三角不等式 ||x+y||≤||x||+||y||
性质6. (Reize表示定理) Euclid空间V n 中所有的线性函数都可表示为内积形式， 即设l (x)为V n 为的一个线性函数， 则一定存在一个向量 u l ∈V n 使得对任一x ∈V n 有l (x)=(ul ,x).
正交性
Euclid 空间的向量正交性： x 和y 正交的定义为(x,y)=0，
记为x ⊥y.
定理： Euclid 空间的向量x 和y 正交的充要条件为
||x+y||2=||x||2+||y||2
定义:如果Euclid 空间中的一组非零向量两两正交则称之为正交
向量组。
定理： 正交向量组一定线性无关。
定义：在Euclid 空间V n 中，n 个正交向量组成的极大线性无关
组构成V n 的正交基。由单位向量组成的正交基为标准正交基。
定理：任意Euclid 空间V n 中存在一组正交基。对任意一组V n
的一个基x 1,x 2,…,xn , 存在一组正交基y 1,y 2,…,yn 满足
L(x1,x 2,…,xi )=L(y1,y 2,…,yi ) , i=1,2,…,n成立。
证明过程就是 Gram-Schmidt 正交化过程。
子空间的正交性： 设Euclid 空间V n 的两个子空间V 1和V 2满
足任给x ∈V 1, y∈V 2满足(x,y)=0, 则称V 1和V 2正交。 子空间的正交补：设Euclid 空间V n 的子空间V 1，它的正交补定
义为V 1⊥={x| (x,y)=0, ∀y ∈V 1 , x ∈V n }.
定理: V 1⊕V 1⊥=Vn
定理： 对任意矩阵A ∈R m ⨯n , 有
R ⊥(A)=N(AT ), R(A)⊕N(AT )=Rm
R ⊥(AT )=N(A), R(AT ) ⊕N(A)=Rn
正交变换及其正交矩阵表示
定义：设V 为Euclid 空间，T 为其线性变换，如果T 保持V 中
任意向量x 的长度不变，即||x||=||Tx||，则称T 为正交变换。 定理 T 为正交变换的充要条件为保持内积不变，即 （x,y ）=(Tx,Ty).
定义：若方阵Q 满足 Q T Q=I或Q -1=QT ,
则称Q 为正交矩阵。
定理(正交变换的矩阵表示). Euclid空间的线性变换为正交变换的充要条件为它对于标准正交基的矩阵是正交矩阵。
正交矩阵的性质：
性质1. 正交矩阵非奇异.
性质2. 正交矩阵的逆矩阵仍是正交矩阵.
性质3. 正交矩阵的乘积仍是正交矩阵。
性质4. 正交基变换矩阵为正交矩阵。
性质5. 正交矩阵的特征值位于单位元。
对称变换和对称矩阵
定义1.30 设T 是欧氏空间V 的一个线性变换，且对V 中任意两个向量x,y 都有
(Tx,y)=（x,Ty ）
成立，则称T 为V 中一个对称变换。
定理： 在Euclid 空间中线性变换是实对称变换的充要条件为它在标准正交基下的矩阵为对称矩阵。
定理：实对称矩阵的特征值都为实数，属于不同特征值的特征向量互相正交。
定理:任何实方阵都可以分解成两个实对称矩阵的乘积.
酉空间介绍：
定义： 设V 是复数域C 上的线性空间，对V 中任意两个x 和y, 按某种规则定义一个复数，用(x,y)表示，且满足下列四个条件：
1). 交换律：，此处 为(y,x)的复共轭;
2). 分配律：(x,y+z)=(x, y)+(x,z)
3). 齐次性: (k x,y)=k (x,y), ∀ k∈C
4). 非负性：(x,x)≥0, 当且仅当 x=0时,(x,x)=0.
则称V 为酉空间，简称复欧氏空间或复内积空间.
Euclid 空间的所有性质均可平行推广到复内积空间中，在此不一一罗列。可参看教材。
在此特别指出几个特别重要的地方：
1．酉变换T 在标准正交基下的矩阵为酉矩阵A 满足
A H A=AAH =I.
2．Heirmite 变换T 在标准正交基下的矩阵A 为Hermite 矩阵，
即满足 (Tx,y)=(x,Ty) 即 A=AH .
3. Heirmite矩阵的谱分解：设A 为Heirmite 矩阵， 则
A=λ1 p 1⋅(p1) H +λ2 p 2⋅(p2) H +…+λn p n ⋅(pn ) H
其中λi 和p i 分别为A 的特征值和特征向量。
应用谱分解证明：若A 和B 都为正定Heimite 矩阵，则C=A◊B 仍为正定Heirmite 矩阵，其中，c ij = aij ⋅b ij , 即C 的每个元素为A 和B 元素的乘积。
需要特别讨论和注意的几个相似性定理：
定理1.41. 1). 设A ∈C n ⨯n , 则存在酉矩阵P 使得 P H AP=U,其中U
为上三角矩阵。
2) 设A ∈R n ⨯n 且它的所有特征值为实数，则存在正交矩阵Q 使得 Q T AQ=U,其中U 为上三角矩阵。
定义：设A ∈C n ⨯n 且A H A=AAH ，则称A 为正规矩阵.
定理1.42：1). 设A ∈C n ⨯n ，则A 酉相似于对角矩阵的充要条件为
A 为正规矩阵，即存在酉矩阵P 使得 P H AP=D,其中D 为对角矩阵.
2）设A ∈R n ⨯n 且它的所有特征值为实数，则A 正交相似于对角矩阵的充要条件为A 为正规矩阵，即存在正交矩阵Q 使得 Q T AQ=D,其中D 为对角矩阵。
定理1.17 任意n 阶矩阵与上三角矩阵相似.
定理1.30 每个n 阶复矩阵A 都与一个Jordan 标准形相似，这个Jordan 标准形除去其中Jordan 块的排列次序外，是由A 唯一确定的。
向量的正交化
给定一组线性无关的向量x 1,x 2, …,x n , 求取一组正交向量z 1,z 2, …,z n 使得L(x1,x 2, …,x k )=L(z1,z 2, …,z k ),k=1,2,…,n
1). Gram-Schmidt正交化过程
y 1=x1
y 2=x2-α12y 1 , α12= (x2,y 1)/(y1,y 1)
y 3=x3-α13y 1 -α23y 2, α13=(x3,y 1)/(y1,y 1), α23=(x3,y 2)/(y2,y 2) y 4=x4-α14y 1 -α24y 2-α34y 3, α14=(x4,y 1)/(y1,y 1),
α24=(x4,y 2)/(y2,y 2), α34=(x4,y 3)/(y3,y 3)
…
y n =xn -α1n y 1 -α2n y 2-…-αn -1,n y n -1,
α1n =(xn ,y 1)/(y1,y 1),
α2n =(xn ,y 2)/(y2,y 2), αn -1,n =(xn ,y n -1)/(yn -1,y n -1)
最后还需要将所得的正交向量单位化，得到标准正交向量组 z 1=y1/||y1||,z2=y2/||y2||,…,z n =yn /||yn ||.
这个过程就称为Gram-Schmidt 正交化过程
但是为了数值稳定性，我们有时使用所谓列正交化过程，其计算过程可以表示如下：
设y 1(0)=x1,y 2(0)=x2, …,y n (0)=xn
对于l =1,2,3,…n, 计算
z l =yl (l -1)/||yl (l -1)||,
对于k= l , l +1,…,n
y k (l )=yk (l -1) -αl k z l ,
其中αl k =(yk (l -1), zl )
这时可以证明这样得到的z 1,z 2, …,z n 和行正交化过程得到的理论上完全相同，但在数值稳定上列正交化过程更稳定。