知识存档。
行列式
矩阵
向量
线性方程组
特征值和特征向量
二次型
线代进阶
这部分内容的学习实际完成于 2024 年 9 月 23 日。
下面的 pdf 实际上和上面的知识点有重叠的内容，但是在更高的观点上。
目录 线性方程组 1 ----- 线性方程和矩阵 2 ----- 消元法 10 ----- Gauss-Jordan 消元法 23 ----- 消元法和矩阵行变换 25 ----- LU 分解 28 向量空间 33 -----向量空间（子空间、列空间） 34 -----线性独立、基、维度 41 -----零空间 46 -----Ax=b 的完整解 50 -----四个子空间的维度 54 正交性 62 -----正交性（正交补、线性代数基本定理） 63 -----投影 71 -----最小二乘法 79 -----正交基、施密特法则（QR分解） 89 特征值和特征向量 98 -----矩阵对角化（同时对角化、Jordan标准型） 100 -----对称矩阵（谱定理） 108 -----正定矩阵 114 -----微分方程组 120
Left Eigenvector
本小节主要是 AIGC，若使用本小节知识需要进一步验证。这里只作为大纲展示相关知识。
基础知识
通常所说的“特征向量”，如果不加修饰，默认指的都是右特征向量。
对于同一个矩阵 $A$，如果存在一个非零行向量 $y$ 和标量 $\lambda$，使得：
这里的 $y$ 就是左特征向量。
- 位置： 向量 $y$ 在矩阵 $A$ 的左边。
- 形状： $y$ 通常被写成横着的行向量 ($1 \times n$)。
- 直观理解： 向量 $y$ 从左侧作用于矩阵 $A$，结果也仅仅是对 $y$ 进行了缩放。
对左特征向量方程 $yA = \lambda y$ 两边同时取转置，利用 $(AB)^T = B^T A^T$，得到：
这揭示了左特征向量的一个核心本质：矩阵 $A$ 的“左特征向量”，其实就是转置矩阵 $A^T$ 的“右特征向量”。
双正交性（Biorthogonality）
对于 $yAx$ 的两种结合方式：
- 先算右边： $y(Ax) = y(\lambda_1 x) = \lambda_1 (yx)$
- 先算左边： $(yA)x = (\lambda_2 y)x = \lambda_2 (yx)$
将两式相减：
结论： 由于前提是 $\lambda_1 \neq \lambda_2$，唯一的可能性就是标量 $yx = 0$。
这意味着：对应不同特征值的左特征向量与右特征向量相互正交。 (注意：这里 $y$ 是行向量，$x$ 是列向量，$yx$ 本质上就是标准内积)
对角化的本质
如果我们把这个结论推广到整个矩阵，它揭示了特征分解（Eigendecomposition）中 $P^{-1}$ 的真实身份。
假设 $A$ 是 $n \times n$ 矩阵，且有 $n$ 个线性无关的右特征向量 $x_1, \dots, x_n$（构成矩阵 $X$）和对应的左特征向量 $y_1, \dots, y_n$（构成矩阵 $Y$，其中 $y_i$ 为行）。
根据双正交性，$y_i x_j = 0$ (当 $i \neq j$)。如果我们适当归一化这些向量，使得 $y_i x_i = 1$，那么我们就会得到：
这就导出了一个在应用数学和物理中极其重要的视角：
$A$ 的右特征向量矩阵 $X$ 的逆矩阵 $X^{-1}$，其“行”正是 $A$ 的左特征向量。
当我们写出 $A = X \Lambda X^{-1}$ 时，其实我们是在写：
(这里 $x_i y_i$ 是一个秩为 1 的矩阵)
实际应用价值
-
马尔可夫链 (Markov Chains)：
- 转移矩阵 $P$ 通常有一个特征值 $\lambda=1$。
- 对应的右特征向量是稳态分布吗？不，通常 $Ax=x$ 在列随机矩阵中不代表分布。
- 对于行随机矩阵（行和为1），$\lambda=1$ 的左特征向量 $\pi P = \pi$ 才是稳态概率分布。
-
摄动理论 (Perturbation Theory)：
- 这是左特征向量最“显威风”的地方。如果你想知道矩阵 $A$ 的特征值 $\lambda$ 对矩阵元素的微小变化 $\delta A$ 有多敏感（即计算 $\frac{\partial \lambda}{\partial A}$）。
- 公式是：$\delta \lambda \approx \frac{y (\delta A) x}{yx}$。
- 这告诉我们：特征值的稳定性不仅取决于右特征向量，还取决于左特征向量与它的夹角。