一、特征值和特征向量介绍

本章会开启线性代数的新内容。前面的第一部分是关于 $A\mathbf{x}=\mathbf{b}$：平衡、均衡和稳定状态；现在的第二部分是关于变化的。时间会加入进来 —— 连续时间的微分方程 $\text{d}u/\text{d}t=A\mathbf{u}$，或离散时间的差分方程 ${\mathbf{u}}_{k+1}=A{\mathbf{u}}_k$。这些方程无法用消元法求解。
关键的思想是要避免矩阵 $A$ 所带来的复杂性。假设解向量 $\mathbf{u}(t)$ 固定在向量 $\mathbf{x}$ 的方向，我们就只需要找到数字（随时间变化）然后乘上 $\mathbf{x}$。一个数字要比一个向量简单。我们希望 “特征向量”（eigenvetors）$\mathbf{x}$ 在被 $A$ 乘后不会改变方向。
矩阵的幂 $A,A^2,A^3,\cdots$ 就是一个好的模型，假设需要 $100$ 次方 $A^{100}$，它的列非常接近特征向量 $(0.6,0.4)$：$$A,A^2,A^3=\left[\begin{array}{cc}0.8& 0.3\\ 0.2& 0.7\end{array}\right],\left[\begin{array}{cc}0.70& 0.45\\ 0.30& 0.55\end{array}\right],\left[\begin{array}{cc}0.650& 0.525\\ 0.350& 0.475\end{array}\right]A^{100}=\left[\begin{array}{cc}0.6000& 0.6000\\ 0.4000& 0.4000\end{array}\right]$$$A^{100}$ 是用 $A$ 的特征值（eigenvalues）求得，而不是乘 $100$ 次矩阵，这些特征值（这里是 $\lambda =1$ 和 $\lambda =1/2$）是一种新的看矩阵核心的方法。
在解释特征值前，先来解释特征向量。几乎所有的向量被 $A$ 乘后都会改变方向，某些特殊的向量 $\mathbf{x}$ 和 $A\mathbf{x}$ 在同一方向，这些就是 “特征向量”。 $A$ 乘上一个特征向量，得到的向量 $A\mathbf{x}$ 等于一个数字 $\lambda$ 乘上原始的向量 $\mathbf{x}$。$$基本的方程是A\mathbf{x}=\lambda \mathbf{x}。数字\lambda 是A的一个特征值。$$特征值 $\lambda$ 告诉我们当 $A$ 乘上向量 $\mathbf{x}$ 后，这个向量是被拉伸、压缩、反向还是不变。特征值可以是 $\lambda =2$，或 $\frac{1}{2}$，或 $-1$ 或 $1$，它还可以为零！则 $A\mathbf{x}=0\mathbf{x}$ 表明特征向量 $\mathbf{x}$ 是在零空间中。
如果 $A$ 是单位矩阵，则每个向量都有 $A\mathbf{x}=\mathbf{x}$，所有的向量都是 $I$ 的特征向量，所有的特征值都是 $\lambda =1$，这不是常见的情况。大部分 $2\times 2$ 的矩阵有两个方向的特征向量和两个特征值。后面会证明 $\det (A-\lambda I)=0$。
如何计算特征向量 $\mathbf{x}$ 和特征值 $\lambda$ 呢？下面以 $2\times 2$ 的矩阵为例，我们使用 $\det (A-\lambda I)=0$ 来求特征值。

【例1】矩阵 $A$ 有两个特征值 $\lambda =1$ 和 $\lambda =\frac{1}{2}$，检验 $\det (A-\lambda I)$：$$A=\left[\begin{array}{cc}0.8& 0.3\\ 0.2& 0.7\end{array}\right]\det \left[\begin{array}{cc}0.8-\lambda & 0.3\\ 0.2& 0.7-\lambda \end{array}\right]={\lambda }^2-\frac{3}{2}\lambda +\frac{1}{2}=(\lambda -1)(\lambda -\frac{1}{2})$$将二次多项式分解成 $\lambda -1$ 乘 $\lambda -\frac{1}{2}$，可以得到两个特征值是 $\lambda =1$ 和 $\lambda =\frac{1}{2}$。这些数字使得矩阵 $A-\lambda I$ 是奇异的（行列式为零），特征向量 ${\mathbf{x}}_1$ 和 ${\mathbf{x}}_2$ 在 $A-I$ 和 $A-\frac{1}{2}I$ 的零空间中。
$(A-I){\mathbf{x}}_1=0$ 是 $A{\mathbf{x}}_1={\mathbf{x}}_1$，第一个特征向量是 $(0.6,0.4)$。
$(A-\frac{1}{2}I){\mathbf{x}}_2=0$ 是 $A{\mathbf{x}}_2=\frac{1}{2}{\mathbf{x}}_2$，第二个特征向量是 $(1,-1)$：$$\begin{array}{l}{\mathbf{x}}_1=\left[\begin{array}{c}0.6\\ 0.4\end{array}\right]和A{\mathbf{x}}_1=\left[\begin{array}{cc}0.8& 0.3\\ 0.2& 0.7\end{array}\right]\left[\begin{array}{c}0.6\\ 0.4\end{array}\right]={\mathbf{x}}_1(A\mathbf{x}=\mathbf{x}表明\lambda =1)\\ \\ {\mathbf{x}}_2=\left[\begin{array}{c}1\\ -1\end{array}\right]和A{\mathbf{x}}_2=\left[\begin{array}{cc}0.8& 0.3\\ 0.2& 0.7\end{array}\right]\left[\begin{array}{c}1\\ -1\end{array}\right]=\left[\begin{array}{c}0.5\\ -0.5\end{array}\right](这是\frac{1}{2}{\mathbf{x}}_2,所以\lambda =\frac{1}{2})\end{array}$$如果 ${\mathbf{x}}_1$ 再被 $A$ 乘，我们仍然会得到 ${\mathbf{x}}_1$，$A$ 的幂会得到 $A^n{\mathbf{x}}_1={\mathbf{x}}_1$。${\mathbf{x}}_2$ 被 $A$ 乘得到 $\frac{1}{2}{\mathbf{x}}_2$，如果再被 $A$ 乘得到 $(\frac{1}{2}{)}^2$ 乘 ${\mathbf{x}}_2$。$$若A取平方，特征向量不变，特征值也取平方。$$这种模式会保持下去，因为特征向量保持自己的方向不会被混淆（Figure 6.1），$A^{100}$ 的特征向量也是同样的 ${\mathbf{x}}_1$ 和 ${\mathbf{x}}_2$，$A^{100}$ 的特征值是 $1^{100}=1$ 和 $(\frac{1}{2}{)}^{100}=$ 非常小的数。
其它的向量会改变方向，但是其它的所有向量都是这两个特征向量的组合，$A$ 的第一列是组合 ${\mathbf{x}}_1+(0.2){\mathbf{x}}_2$：$$\begin{array}{l}分开特征向量\\ 然后用A乘\end{array}\left[\begin{array}{c}0.8\\ 0.2\end{array}\right]={\mathbf{x}}_1+(0.2){\mathbf{x}}_2=\left[\begin{array}{c}0.6\\ 0.4\end{array}\right]+\left[\begin{array}{c}0.2\\ -0.2\end{array}\right](\mathrm{6.1.1})$$
我们分开乘 ${\mathbf{x}}_1$ 和 $(0.2){\mathbf{x}}_2$，$A$ 乘上 ${\mathbf{x}}_2$ 就是它的特征值 $\frac{1}{2}$ 乘上 ${\mathbf{x}}_2$：$${\lambda }_i乘上每个{\mathbf{x}}_{i}A\left[\begin{array}{c}0.8\\ 0.2\end{array}\right]={\mathbf{x}}_1+\frac{1}{2}(0.2){\mathbf{x}}_2=\left[\begin{array}{c}0.6\\ 0.4\end{array}\right]+\left[\begin{array}{c}0.1\\ -0.1\end{array}\right]=\left[\begin{array}{c}0.7\\ 0.3\end{array}\right]$$当我们用 $A$ 乘上向量时，每个特征向量被它的特征值所乘。每一步 ${\mathbf{x}}_1$ 不变，${\mathbf{x}}_2$ 被 $\frac{1}{2}$ 乘，所以 $99$ 步得到一个很小的数 $(\frac{1}{2}{)}^{99}$：$$\boxed{A^{99}\left[\begin{array}{c}0.8\\ 0.2\end{array}\right]实际上就是{\mathbf{x}}_1+(0.2)(\frac{1}{2}{)}^{99}{\mathbf{x}}_2=\left[\begin{array}{c}0.6\\ 0.4\end{array}\right]+\left[\begin{array}{c}非常\\ 小的\\ 向量\end{array}\right]}$$这就是 $A^{100}$ 的第一列，我们前面写的 $0.6000$ 并不是很准确，我们省略了 $(0.2)(\frac{1}{2}{)}^{100}$，这个数在小数点 $30$ 位以后了。
特征向量 ${\mathbf{x}}_1$ 是一个不会变化的 “稳定状态”（因为 ${\lambda }_1=1$），特征向量 ${\mathbf{x}}_2$ 是一个几乎消失的 “衰减模式”（因为 ${\lambda }_2=0.5$），$A$ 的幂越高，它的列就越趋于稳定状态。
这个特殊的 $A$ 是一个马尔可夫矩阵（Markov matrix），它最大的特征值是 $\lambda =1$，它的特征向量 ${\mathbf{x}}_1=(0.6,0.4)$ 是稳定状态 —— $A^k$ 的所有列都会趋近于它。
对于投影矩阵 $P$，我们可以看到什么时候 $P\mathbf{x}$ 平行于 $\mathbf{x}$。 对应的 $\lambda =1$ 和 $\lambda =0$ 的特征向量填满列空间和零空间，列空间不变（$P\mathbf{x}=\mathbf{x}$），零空间变为零（$P\mathbf{x}=0\mathbf{x}$）。

【例2】投影矩阵 $P=\left[\begin{array}{cc}0.5& 0.5\\ 0.5& 0.5\end{array}\right]$ 有特征值 $\lambda =1$ 和 $\lambda =0$。
它的特征向量是 ${\mathbf{x}}_1=(1,1)$ 和 ${\mathbf{x}}_2=(1,-1)$，对于这些向量有 $P{\mathbf{x}}_1={\mathbf{x}}_2$（稳定状态）和 $P{\mathbf{x}}_2=0$（零空间）。本例说明了马尔可夫矩阵、奇异矩阵和对称矩阵（最重要），它们都有特殊的特征值 $\lambda$ 和特征向量 $\mathbf{x}$：

1. 马尔可夫矩阵：$P$ 的每一列相加为 $1$，所以 $\lambda =1$ 是一个特征值。这是因为 $A-I$ 是奇异的，因为每列的和为零。
2. $P$ 是奇异的，所以 $\lambda =0$ 是一个特征值。
3. $P$ 是对称的，所以它的特征向量 $(1,1)$ 和 $(1,-1)$ 垂直。

投影矩阵的特征值只有 $0$ 和 $1$，对于 $\lambda =0$ 的特征向量（即 $P\mathbf{x}=0\mathbf{x}$）填满了零空间，对于 $\lambda =1$ 的特征向量（即 $P\mathbf{x}=\mathbf{x}$）充满了列空间；零空间投影到零，列空间投影到它自己。投影维持列空间不变而摧毁零空间：$$投影每个部分\mathbf{v}=\left[\begin{array}{c}1\\ -1\end{array}\right]+\left[\begin{array}{c}2\\ 2\end{array}\right]投影到P\mathbf{v}=\left[\begin{array}{c}0\\ 0\end{array}\right]+\left[\begin{array}{c}2\\ 2\end{array}\right]$$投影有 $\lambda =0$ 和 $1$，置换的所有 $|\lambda |=1$。下一个矩阵 $R$ 是一个反射矩阵同样也是一个置换矩阵，$R$ 也有特殊的特征值。

【例3】反射矩阵 $R=\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]$ 有特征值 $1$ 和 $-1$。
$R$ 不会改变特征向量 $(1,1)$，它会反转第二个特征向量 $(1,-1)$ 的符号。一个没有负元素的矩阵也可能有负的特征值！$R$ 的特征向量和 $P$ 的一样，因为 $reflection=2(projection)-I$：$$R=2P-I\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]=2\left[\begin{array}{cc}0.5& 0.5\\ 0.5& 0.5\end{array}\right]-\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right](\mathrm{6.1.2})$$当一个矩阵平移 $I$，它的每个 $\lambda$ 平移 $1$。 特征向量不变。

二、特征值方程

我们通过几何求得了投影矩阵的特征值 $\lambda$ 和特征向量 $\mathbf{x}$：$P\mathbf{x}=\mathbf{x}$ 和 $P\mathbf{x}=0$。其它的矩阵我们要用行列式和线性代数来求解特征值和特征向量，这是关键的计算 —— 几乎所有的应用都是由求解 $A\mathbf{x}=\lambda \mathbf{x}$ 开始的。
首先将 $\lambda \mathbf{x}$ 移到左边，将方程 $A\mathbf{x}=\lambda \mathbf{x}$ 写成 $(A-\lambda I)\mathbf{x}=0$，矩阵 $A-\lambda I$ 乘上特征向量 $\mathbf{x}$ 得到零向量。特征向量构成了 $A-\lambda I$ 的零空间。 当我们已知特征值 $\lambda$ 后，就可以通过解 $(A-\lambda I)\mathbf{x}=0$ 来求得特征向量。
首先是特征值，如果 $(A-\lambda I)\mathbf{x}=0$ 有非零解，则 $A-\lambda I$ 不可逆，$A-\lambda I$ 的行列式一定为零。这就是求出特征值 $\lambda$ 的方法：

$$\begin{array}{lc}特征值：& \boxed{当且仅当A-\lambda I奇异时，数字\lambda 是A的特征值}\\ & \\ 特征值方程：& \boxed{\det (A-\lambda I)=0}(\mathrm{6.1.3})\end{array}$$

“特征多项式”（characteristic polynomial）$\det (A-\lambda I)$ 只与 $\lambda$ 有关，和 $\mathbf{x}$ 无关。当 $A$ 是 $n\times n$ 的矩阵时，式（6.1.3）的次数为 $n$，则 $A$ 有 $n$ 个特征值（有可能重复！）每个 $\lambda$ 求得 $\mathbf{x}$：

对每个特征值 $\lambda$ 解 $(A-\lambda I)\mathbf{x}=0$ 或 $A\mathbf{x}=\lambda \mathbf{x}$ 得到一个特征向量 $\mathbf{x}$。

【例4】$A=\left[\begin{array}{cc}1& 2\\ 2& 4\end{array}\right]$ 已经是一个奇异矩阵（行列式为零）。求它的特征值 ${\lambda }^{\prime }s$ 和特征向量 ${\mathbf{x}}^{\prime }s$。
当 $A$ 是奇异，$\lambda =0$ 是它的一个特征值，方程 $A\mathbf{x}=0\mathbf{x}$ 有解，它们是 $\lambda =0$ 的特征向量。但是 $\det (A-\lambda I)=0$ 是求出所有 ${\lambda }^{\prime }s$ 和 ${\mathbf{x}}^{\prime }s$ 的方法，总是从 $A$ 减去 $\lambda I$：$$从对角线减去\lambda 得A-\lambda I=\left[\begin{array}{cc}1-\lambda & 2\\ 2& 4-\lambda \end{array}\right](\mathrm{6.1.4})$$计算这个 $2\times 2$ 矩阵的行列式 “$ad-bc$”，“$ad$” 部分是 $1-\lambda$ 乘 $4-\lambda$ 等于 ${\lambda }^2-5\lambda +4$；“$bc$” 部分不包含 $\lambda$，是 $2$ 乘 $2$。$$\det \left[\begin{array}{cc}1-\lambda & 2\\ 2& 4-\lambda \end{array}\right]=(1-\lambda )(4-\lambda )-(2)(2)={\lambda }^2-5\lambda (\mathrm{6.1.5})$$令行列式 ${\lambda }^2-5\lambda$ 为零，一个解是 $\lambda =0$（和预期一致，因为 $A$ 奇异）。分解成 $\lambda$ 乘 $\lambda -5$，另一个根是 $\lambda =5$：

$\boxed{\det (A-\lambda I)={\lambda }^2-5\lambda =0}$ 得到特征值 $\boxed{{\lambda }_1=0}$ 和 $\boxed{{\lambda }_2=5}$。

现在求特征向量。分别求解 ${\lambda }_1=0$ 和 ${\lambda }_2=5$ 时的 $(A-\lambda I)\mathbf{x}=0$：$$\begin{gathered} {\lambda }_1=0时，有(A-0I)\mathbf{x}=\left[\begin{array}{cc}1& 2\\ 2& 4\end{array}\right]\left[\begin{array}{c}y\\ z\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]得到一个特征向量\boxed{\left[\begin{array}{c}y\\ z\end{array}\right]=\left[\begin{array}{c}2\\ -1\end{array}\right]} \\ {\lambda }_2=5时，有(A-5I)\mathbf{x}=\left[\begin{array}{cc}-4& 2\\ 2& -1\end{array}\right]\left[\begin{array}{c}y\\ z\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]得到一个特征向量\boxed{\left[\begin{array}{c}y\\ z\end{array}\right]=\left[\begin{array}{c}1\\ 2\end{array}\right]} \end{gathered}$$矩阵 $A-0I$ 和 $A-5I$ 都是奇异的（因为 $0$ 和 $5$ 都是特征值），特征向量 $(2,-1)$ 和 $(1,2)$ 在零空间中：$(A-\lambda I)\mathbf{x}=0$ 就是 $A\mathbf{x}=\lambda \mathbf{x}$。
需要强调的是：$\lambda =0$ 并不是什么特殊的情况，它像其它数字一样，零可能是特征值，也可能不是。如果 $A$ 是奇异矩阵，则 $\lambda =0$ 的特征向量充满零空间：$A\mathbf{x}=0\mathbf{x}=0$。如果 $A$ 可逆，则 $0$ 不是特征值。我们将 $A$ 平移 $I$ 的倍数使它奇异。
本例中，平移后的矩阵 $A-5I$ 是奇异的，$5$ 是另一个特征值。
总结： 对于求解 $n\times n$ 矩阵的特征值问题，遵循以下步骤：

1. $计算A-\lambda I的行列式$。对角线减去 $\lambda$，这个行列式是以 ${\lambda }^n$ 或 $-{\lambda }^n$ 开始，它是一个 $n$ 次多项式。
2. $求多项式的根$。解 $\det (A-\lambda I)=0$，它的 $n$ 个根就是 $A$ 的 $n$ 个特征值，它们使得 $A-\lambda I$ 奇异。
3. 对于每个特征值 $\lambda$，$解(A-\lambda I)\mathbf{x}=0，求得一个特征向量\mathbf{x}$。

关于 $2\times 2$ 矩阵特征向量的注解：当 $A-\lambda I$ 奇异，它的每行都是向量 $(a,b)$ 的倍数，特征向量是 $(b,-a)$ 的任意倍数。此例有：$$\begin{gathered} \lambda =0：A-0I的行是方向(1,2);特征向量的方向是(2,-1) \\ \lambda =5：A-5I的行是方向(-4,2);特征向量的方向是(2,4) \end{gathered}$$前面我们将后一个特征向量写成 $(1,2)$，向量 $(1,2)$ 和 $(2,4)$ 都是正确的，这一整条线都是特征向量 —— $\mathbf{x}$ 的任意非零的倍数与 $\mathbf{x}$ 一样。MATLAB 中 eig(A) 会除以它自身的长度将这个特征向量变为单位向量。
警告：某些 $2\times 2$ 的矩阵只有一条直线上的特征向量，这只会发生在两个特征值相等的情况下。（另一种情况是 $A=I$ 它有相等的特征值但是有整个空间的特征向量。）如果没有完整的一组特征向量，我们就没法得到一组基，就不可能将每个向量 $\mathbf{v}$ 都写成特征向量的组合。如果没有 $n$ 个无关的特征向量，就无法对角化一个矩阵。

三、行列式和迹

首先是一个不好的消息：如果将 $A$ 的一行加到另外一行，或者交换行，特征值通常会发生改变。消元无法维持 $\lambda$ 不变。三角矩阵 $U$ 的特征值在他的对角线上 —— 就是它们的主元。但是它们不是 $A$ 的特征值！当行 $1$ 加到行 $2$ 后，特征值会改变：$$U=\left[\begin{array}{cc}1& 3\\ 0& 0\end{array}\right]的特征值是\lambda =0和\lambda =1;A=\left[\begin{array}{cc}1& 3\\ 2& 6\end{array}\right]的特征值是\lambda =0和\lambda =7$$然后是一个好的消息：${\lambda }_1$ 与 ${\lambda }_2$ 的乘积和 ${\lambda }_1$ 与 ${\lambda }_2$ 的和可以很快的通过矩阵求得。对于这个 $A$，乘积是 $0$ 乘 $7$，它和行列式是一样的（都是 $0$），特征值的和是 $0+7$，这个就是主对角线的和，这个称为迹，就是 $1+6$。这些可以用来快速检验：

$n$ 个特征值的乘积等于行列式。
$n$ 个特征值的和等于 $n$ 个对角线元素之和。

沿着主对角线的元素之和称为 $A$ 的迹（trace）：

$${\lambda }_1+{\lambda }_2+\cdots +{\lambda }_n=trace=a_{11}+a_{22}+\cdots +a_{nn}(\mathrm{6.1.6})$$

这些对于检验很有用，虽说我们无法用它来计算 $\lambda$，但是当我们计算错误时，可以很方便的检查出来。要正确计算 $\lambda$，我们还需要使用 $\det (A-\lambda I)=0$。
当矩阵是 $2\times 2$ 时，迹和行列式会告诉我们所有的东西。下面是迹 $trace=3$ 和 $\det =2$，所以它们的特征值是 $\lambda =1$ 和 $2$：$$A=\left[\begin{array}{cc}1& 9\\ 0& 2\end{array}\right]或\left[\begin{array}{cc}3& 1\\ -2& 0\end{array}\right]或\left[\begin{array}{cc}7& -3\\ 10& -4\end{array}\right](\mathrm{6.1.7})$$找到特征值的最佳矩阵：三角矩阵。$$三角矩阵的特征值都在对角线上！$$原因：对于三角矩阵，其特征值方程为 $(a_{11}-\lambda )(a_{22}-\lambda )\cdots (a_{nn}-\lambda )=0$，所以解即为对角线的元素，即特征值都在对角线上。

四、虚数特征值

特征值不一定都是实数。

【例5】$90°$ 的旋转矩阵 $Q=\left[\begin{array}{cc}0& -1\\ 1& 0\end{array}\right]$ 没有实数特征值。它的特征值是 ${\lambda }_1=i$ 和 ${\lambda }_2=-i$，则 ${\lambda }_1+{\lambda }_2=trace=0$，${\lambda }_1{\lambda }_2=determinant=1$。

没有实数向量$\mathbf{x}$ 旋转后的向量 $Q\mathbf{x}$ 与它的方向保持一致（$\mathbf{x}=0$ 是无用的向量）。除非使用虚数，不然实数情况下没有特征向量。
$Q^2$ 就是 $-I$，如果 $Q$ 是旋转 $90°$，那么 $Q^2$ 就是旋转 $180°$，它的特征值就是 $-1$ 和 $-1$（当然有 $-I\mathbf{x}=-1\mathbf{x}$）. 对 $Q$ 平方也会将它的每个 $\lambda$ 平方，所以有 ${\lambda }^2=-1$，$90°$ 的旋转矩阵 $Q$ 的特征值就是 $+i$ 和 $-i$，因为 $i^2=-1$，$i=\sqrt{-1}$。
这两个 $\lambda$ 也可以通过 $\det (Q-\lambda I)=0$ 求得，特征值方程可以得到 ${\lambda }^2+1=0$，它的根是 $i$ 和 $-i$，在特征向量中也会出现虚数 $i$：$$复数特征向量\left[\begin{array}{cc}0& -1\\ 1& 0\end{array}\right]\left[\begin{array}{c}1\\ i\end{array}\right]=-i\left[\begin{array}{c}1\\ i\end{array}\right]和\left[\begin{array}{cc}0& -1\\ 1& 0\end{array}\right]\left[\begin{array}{c}i\\ 1\end{array}\right]=i\left[\begin{array}{c}i\\ 1\end{array}\right]$$这些复数向量 ${\mathbf{x}}_1=(1,i)$ 和 ${\mathbf{x}}_2=(i,1)$ 在旋转后仍然维持着它们原来的方向。这个例子指出了最重要的一点，实数矩阵很容易有复数特征值和复数特征向量，这些特殊的特征值 $i$ 和 $-i$ 也表明了 $Q$ 的两个特殊性质：

1. $Q$ 是一个正交矩阵所以每个 $\lambda$ 的绝对值是 $|\lambda |=1$.
2. $Q$ 是一个反对称矩阵所以每个 $\lambda$ 都是纯虚数。

对称矩阵 $S^T=S$ 可以类比成实数，反对称矩阵 $A^T=-A$ 可以类比为虚数，正交矩阵 $Q^{T}Q=I$ 可以对应 $|\lambda |=1$ 的复数。$S、A$ 和 $Q$ 的特征值来说不只是类比，而是事实。
这些特殊矩阵的特殊向量都相互垂直，$(i,1)$ 和 $(1,i)$ 也垂直（复数的点积）。

五、AB 和 A+B 的特征值

第一个关于 $AB$ 特征值的猜想是错误的，$A$ 的特征值 $\lambda$ 乘上 $B$ 的特征值 $\beta$ 通常不等于 $AB$ 的特征值：$$错误证明AB\mathbf{x}=A\beta \mathbf{x}=\beta A\mathbf{x}=\beta \lambda \mathbf{x}(\mathrm{6.1.8})$$上面看起来 $\beta$ 乘上 $\lambda$ 是一个特征值，但是只有当 $\mathbf{x}$ 是 $A$ 和 $B$ 的特征向量时，这个证明才是正确的。这个错误是假设了 $A$ 和 $B$ 有相同的特征向量 $\mathbf{x}$。通常这个假设是不成立的，$A$ 的特征向量一般情况想并不是 $B$ 的特征向量。下例中$A$ 和 $B$ 的特征值都是零然而 $1$ 却是 $AB$ 的特征值：$$A=\left[\begin{array}{cc}0& 1\\ 0& 0\end{array}\right],B=\left[\begin{array}{cc}0& 0\\ 1& 0\end{array}\right];则AB=\left[\begin{array}{cc}1& 0\\ 0& 0\end{array}\right],A+B=\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]$$同样的理由，$A+B$ 的特征值通常也不是 $\lambda +\beta$，本例中 $\lambda +\beta =0$，而 $A+B$ 的特征值是 $1$ 和 $-1$（至少它们的和为零。）
前面的错误证明需要附加一个条件，假设 $\mathbf{x}$ 确实同时是 $A$ 和 $B$ 的特征向量，则有 $AB\mathbf{x}=\lambda \beta \mathbf{x}$ 且 $BA\mathbf{x}=\lambda \beta \mathbf{x}$，若所有的 $n$ 个特征向量都一样，我们就可以将特征值相乘。$AB=BA$ 特征向量的测试在量子力学中很重要 —— 这个是线性代数的应用：

当且仅当 $AB=BA$，则 $A$ 和 $B$ 有同样的 $n$ 个无关的特征向量。

$海森堡不确定原理$（Heisenberg’s uncertainty principle）：在量子力学中，位置矩阵 $P$ 和动量矩阵 $Q$ 不能交换位置，实际上 $QP-PQ=I$（这些是无限矩阵）。要同时有 $P\mathbf{x}=0$ 和 $Q\mathbf{x}=0$ 需要 $\mathbf{x}=I\mathbf{x}=0$，如果我们知道准确的位置，我们就不可能准确的知道动量。海森堡不确定原理：$||P\mathbf{x}||||Q\mathbf{x}||\ge \frac{1}{2}||\mathbf{x}|{|}^2$。

六、主要内容总结

1. $A\mathbf{x}=\lambda \mathbf{x}$ 说的是特征向量 $\mathbf{x}$ 被 $A$ 乘前后，保持这同样的方向。
2. $A\mathbf{x}=\lambda \mathbf{x}$ 也表明 $\det (A-\lambda I)=0$，这个方程决定了 $n$ 个特征值。
3. $A^2$ 和 $A^{-1}$ 的特征值是 ${\lambda }^2$ 和 ${\lambda }^{-1}$，它们的特征向量一样。
4. 特征值的和 ${\lambda }^{\prime }s$ 等于 $A$ 主对角线元素的和（迹）。特征值的乘积 ${\lambda }^{\prime }s$ 等于 $A$ 的行列式。
5. 投影矩阵 $P$，反射矩阵 $R$，$90°$ 旋转矩阵 $Q$ 有特殊的特征值 $1$，$0$，$-1$，$i$，$-i$，奇异矩阵有 $\lambda =0$；三角矩阵的特征值 ${\lambda }^{\prime }s$ 在对角线上。
6. 矩阵的特殊性质会得到特殊的特征值和特征向量。

七、例题

【例6】求下列矩阵的特征值和特征向量：$A、A^2、A^{-1}$ 和 $A+4I$。$$A=\left[\begin{array}{cc}2& -1\\ -1& 2\end{array}\right],A^2=\left[\begin{array}{cc}5& -4\\ -4& 5\end{array}\right]$$验证迹 ${\lambda }_1+{\lambda }_2=4$ 和行列式 ${\lambda }_1{\lambda }_2=3$。
解： $A$ 的特征值方程 $\det (A-\lambda I)=0$：$$A=\left[\begin{array}{cc}2& -1\\ -1& 2\end{array}\right]\det (A-\lambda I)=\left|\begin{array}{cc}2-\lambda & -1\\ -1& 2-\lambda \end{array}\right|={\lambda }^2-4\lambda +3=0$$分解成 $(\lambda -1)(\lambda -3)=0$，所以 $A$ 的特征值是 ${\lambda }_1=1$ 和 ${\lambda }_2=3$。迹是 $2+2$ 等于 $1+3$；行列式是 $3$ 等于乘积 ${\lambda }_1{\lambda }_2$。
对不同的特征值分别求解 $(A-\lambda I)\mathbf{x}=0$ 即 $A\mathbf{x}=\lambda \mathbf{x}$ 可得特征向量：$$\begin{array}{l}\lambda =1：(A-I)\mathbf{x}=\left[\begin{array}{cc}1& -1\\ -1& 1\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]得到特征向量{\mathbf{x}}_1=\left[\begin{array}{c}1\\ 1\end{array}\right]\\ \\ \lambda =3：(A-3I)\mathbf{x}=\left[\begin{array}{cc}-1& -1\\ -1& -1\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]得到特征向量{\mathbf{x}}_2=\left[\begin{array}{c}1\\ -1\end{array}\right]\end{array}$$$A^2、A^{-1}$ 和 $A+4I$ 特征向量与 $A$ 的相同，特征值是 ${\lambda }^2、{\lambda }^{-1}$ 和 $\lambda +4$：$$A^2的特征值是：1^2=1和3^2=9A^{-1}的特征值是：\frac{1}{1}和\frac{1}{3}A+4I的特征值是：1+4=5和3+4=7$$注：$A$ 有正交的特征向量（对称矩阵）；$A$ 可以对角化（因为 ${\lambda }_1\ne {\lambda }_2$）；$A$ 和任意的特征值是 $1$ 和 $3$ 的 $2\times 2$ 的矩阵相似；$A$ 是一个正定矩阵，因为 $A=A^T$ 且 ${\lambda }^{\prime }s$ 都是正的。

【例7】如果估算任意 $A$ 的特征值？ 戈氏圆盘定理（Gershgorin）就说明这个问题的。
解： $A$ 的每个特征值一定接近至少一个主对角线上的元素 $a_{ii}$。$\lambda$ 接近 $a_{ii}$ 表示 $|a_{ii}-\lambda |$ 不大于该行 $i$ 的其它元素的绝对值 $|a_{ij}|$ 的和 $R_i$，其中 $R_i={\sum }_{j\ne i}|a_{ij}|$ 是以 $a_{ii}$ 为中心的圆的半径。$$每个\lambda 都在一个或多个对角线元素a_{ii}为圆心的圆内：|a_{ii}-\lambda |\le R_i$$原因：如果 $\lambda$ 是一个特征值，则 $A-\lambda I$ 不可逆，则 $A-\lambda I$ 不可能是对角线优势矩阵（diagonally dominant一定可逆），所以至少有一个对角线元素 $a_{ii}-\lambda$ 不大于该行 $i$ 其它元素的绝对值 $|a_{ij}|$ 的和 $R_i$（这里取绝对值！）
（a）$A$ 的每个特征值 $\lambda$ 落在一个或两个 Gershgorin circles 中：圆心是 $a$ 和 $d$，半径是 $R_1=|b|$ 和 $R_2=|c|$。$$A=\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]\begin{array}{l}第一个圆：|\lambda -a|\le |b|\\ 第二个圆：|\lambda -d|\le |c|\end{array}$$这些圆是在复平面内，因为 $\lambda$ 可以为复数。
（b）$A$ 的所有特征值都在半径为 $3$ 的圆中，圆心是对角线元素 $d_1,d_2,d_3$：$$A=\left[\begin{array}{ccc}{d}_1& 1& 2\\ 2& d_2& 1\\ -1& 2& d_3\end{array}\right]\begin{array}{l}|\lambda -d_1|\le 1+2=R_1\\ |\lambda -d_2|\le 2+1=R_2\\ |\lambda -d_3|\le 1+2=R_3\end{array}$$本例中 “接近”（near）表示距离 $d_1$ 或 $d_2$ 或 $d_3$ 不超过 $3$。

【例8】求 $3\times 3$ 对称矩阵 $S$ 的特征值和特征向量：$$\begin{array}{l}对称矩阵\\ 奇异矩阵\\ 迹1+2+1=4\end{array}S=\left[\begin{array}{ccc}1& -1& 0\\ -1& 2& -1\\ 0& -1& 1\end{array}\right]$$解： 由于 $S$ 的所有行加起来为零，向量 $\mathbf{x}=(1,1,1)$ 得到 $S\mathbf{x}=0$，所以这是 $\lambda =0$ 对应的特征向量。要求 ${\lambda }_2$ 和 ${\lambda }_3$ 计算这个 $3\times 3$ 的行列式：$$\det (S-\lambda I)=\left|\begin{array}{ccc}1-\lambda & -1& 0\\ -1& 2-\lambda & -1\\ 0& -1& 1-\lambda \end{array}\right|=(1-\lambda )(2-\lambda )(1-\lambda )-2(1-\lambda )=(1-\lambda )[(2-\lambda )(1-\lambda )-2]=(1-\lambda )(-\lambda )(3-\lambda )$$由这三个因式可以得到 $\lambda =0,1,3$，每个特征值对应一个特征向量（或特征向量的直线）：$${\mathbf{x}}_1=\left[\begin{array}{c}1\\ 1\\ 1\end{array}\right]S{\mathbf{x}}_1=0{\mathbf{x}}_1{\mathbf{x}}_2=\left[\begin{array}{c}1\\ 0\\ -1\end{array}\right]S{\mathbf{x}}_2=1{\mathbf{x}}_2{\mathbf{x}}_3=\left[\begin{array}{c}1\\ -2\\ 1\end{array}\right]S{\mathbf{x}}_3=3{\mathbf{x}}_3$$此时 $S$ 是对称矩阵，它的特征向量互相垂直，这个例子比较好求出特征值。对于大型矩阵可以使用 eig(A)，使用行列式比较麻烦。
完整的指令是 [X,E] = eig(A) 得到的 $X$ 的列是单位向量。