特征值与奇异值
特征值与特征向量
如果一个向量\(v\)是方阵\(A\)的特征向量，那么： \[Av=\lambda v\] - \(\lambda\):特征值 - \(v\):特征向量 把\(A\)乘到\(v\)上，得到一个\(\lambda v\)，也就是意味着我们得到了一个方向未变但在长度上有伸缩改变的向量（方向未变不准确，有可能变反向）。这是让\(A\)乘以他的特征向量表现出来的性质。 也就是说，\(v\) 在 \(A\) 的作用下，保持方向不变，进行比例为\(\lambda\) 的伸缩
因此： - 特征向量所在直线上的向量都是特征向量； - 特征向量所在的直线（包含了所有特征向量），叫特征空间；
特征值分解
假设矩阵\(A\) 有n个线性无关的特征向量\([v^{1}, v^{2}, ..., v^{n}]\) ，对应着特征值\([\lambda_1, \lambda_2,...,\lambda_n]\) 。我们将特征向量连成一个矩阵，使得每一列是一个特征向量：\(V = [v^{1}, v^{2}, ..., v^{n}]\) ，类似地将特征值连成一个向量\(\lambda = [[\lambda_1, \lambda_2,...,\lambda_n]]^T\)
特征值分解是把一个n阶实对称矩阵分解为下面的形式： \[A=Vdiag(\lambda)V^{-1}\]
其中：
- \(V\)是这个矩阵\(A\)的特征向量组成的矩阵，是一个正交矩阵
- \(diag(\lambda)\)是一个对角阵，每个对角线上的元素就是一个特征值
特征值分解有利于我们分析矩阵的性质，就像质因数分解一样有助于我们理解整数。
特征向量可能不唯一，而特征值一定唯一。
正交变换与正交军阵
正交变换
什么是正交变换？ 正交变换：在线性空间中，保持向量长度不变的线性变换。 正交变换的定义是什么？ 设\(V\)为欧式空间，\(T\)是\(V\)的一个线性变换。如果\(T\)保持\(V\)中任一向量\(x\)的长度不变，即有： \[(x,x)=(Tx,Tx)\] 那么称\(T\)是\(V\)的一个正交变换。（即内积不变）
注： \((x,x)\)是向量内积 怎样的变换算是正交变换？ 线性变换\(T\)为正交变换的充要条件是，对于欧式空间\(V\)中任二向量\(x,y\)都有： \[(x,y)=(Tx,Ty)\]
正交矩阵
正交矩阵的定义是什么？ 如果实方阵\(Q\)满足： \[T^TQ=I,或 Q^{-1}=Q^T\] 则称\(Q\)为正交矩阵
其中，\(I\)是单位矩阵。 正交矩阵有哪些特点？ - 正交矩阵的行列式必定为\(+-1\) - 行列式值为+1的正交矩阵，称为特殊正交矩阵，它是一个旋转矩阵。 - 行列式值为-1的正交矩阵，称为瑕旋转矩阵。瑕旋转是旋转加上镜射。镜射也是一种瑕旋转。 - 正交矩阵的逆矩阵依然是正交矩阵 - 两个正交矩阵的乘积依然是正交矩阵 - 下面是一些小的正交矩阵和可能的解释： 
怎样的矩阵能够成为正交矩阵？ \(Q\)是正交矩阵的充要条件是，它的列向量是两两正交的单位向量。
正交变换与正交矩阵的关系
欧式空间的线性变换是正交变换的充要条件是，它对于标准正交基的矩阵是正交矩阵。
酉空间
欧式空间是针对实数域\(R\)上的线性空间； 酉空间是特殊的复线性空间。
酉变换 酉空间\(V\)中的线性变换\(T\)，如果满足 \[(x,x)=(Tx,Tx),x\in V\] 则称\(T\)为\(V\)的酉变换。 酉矩阵 酉变换在酉空间的标准正交基下的矩阵\(A\)是酉矩阵，即\(A\)满足下式： \[A^HA=AA^H=I\] - 酉矩阵的逆矩阵也是酉矩阵 - 两个酉矩阵的乘积还是酉矩阵
Schur定理
酉空间上的Schur定理（定理1.41） 设\(A\in C^{n\times n}\)的特征值为\(\lambda _1,\lambda _2,...,\lambda _n\)，则存在酉矩阵\(P\),使得： \[P^{-1}AP=P^HAP=\left[ \begin{matrix} \lambda _1 & . & ...& . \\ & \lambda _2 & ...& . \\ & & ...& . \\ & & &\lambda _n \end{matrix} \right]\]
实数空间上的Schur定理 设\(A\in R^{n\times n}\)的特征值为\(\lambda _1,\lambda _2,...,\lambda _n\)，且\(\lambda _n \in R(i=1,2,...,n)\),则存在正交矩阵\(Q\),使得： \[Q^{-1}AQ=Q^HAQ=\left[ \begin{matrix} \lambda _1 & . & ...& . \\ & \lambda _2 & ...& . \\ & & ...& . \\ & & &\lambda _n \end{matrix} \right]\]
正规矩阵
设\(A \in C^{n \times n}\)，且等式 \[A^HA=AA^H\] 成立，则称\(A\)为正规矩阵。
正规矩阵与对角矩阵的定理（定理1.42）
- （酉空间）设\(A \in C^{n \times n}\)，则\(A\)酉相似于对角矩阵的充要条件是\(A\)为正规矩阵；
- （实数空间）\(A \in R^{n \times n}\)，且\(A\)的特征值都是实数，则\(A\)正交相似于对角矩阵的充要条件是\(A\)为正规矩阵。