知识存档。

行列式

矩阵

向量

线性方程组

特征值和特征向量

二次型

线代进阶

这部分内容的学习实际完成于 2024 年 9 月 23 日。

下面的 pdf 实际上和上面的知识点有重叠的内容，但是在更高的观点上。

目录
线性方程组 1
——- 线性方程和矩阵 2
——- 消元法 10
——- Gauss-Jordan 消元法 23
——- 消元法和矩阵行变换 25
——- LU 分解 28
向量空间 33
——-向量空间（子空间、列空间） 34
——-线性独立、基、维度 41
——-零空间 46
——-Ax=b 的完整解 50
——-四个子空间的维度 54
正交性 62
——-正交性（正交补、线性代数基本定理） 63
——-投影 71
——-最小二乘法 79
——-正交基、施密特法则（QR分解） 89
特征值和特征向量 98
——-矩阵对角化（同时对角化、Jordan标准型） 100
——-对称矩阵（谱定理） 108
——-正定矩阵 114
——-微分方程组 120

Left Eigenvector

本小节主要是 AIGC，若使用本小节知识需要进一步验证。这里只作为大纲展示相关知识。

基础知识

通常所说的“特征向量”，如果不加修饰，默认指的都是右特征向量。

对于同一个矩阵 $A$，如果存在一个非零行向量 $y$ 和标量 $\lambda$，使得：

这里的 $y$ 就是左特征向量。

  • 位置： 向量 $y$ 在矩阵 $A$ 的左边。
  • 形状： $y$ 通常被写成横着的行向量 ($1 \times n$)。
  • 直观理解： 向量 $y$ 从左侧作用于矩阵 $A$，结果也仅仅是对 $y$ 进行了缩放。

对左特征向量方程 $yA = \lambda y$ 两边同时取转置，利用 $(AB)^T = B^T A^T$，得到：

这揭示了左特征向量的一个核心本质：矩阵 $A$ 的“左特征向量”，其实就是转置矩阵 $A^T$ 的“右特征向量”。

双正交性（Biorthogonality）

对于 $yAx$ 的两种结合方式：

  1. 先算右边： $y(Ax) = y(\lambda_1 x) = \lambda_1 (yx)$
  2. 先算左边： $(yA)x = (\lambda_2 y)x = \lambda_2 (yx)$

将两式相减：

结论：
由于前提是 $\lambda_1 \neq \lambda_2$，唯一的可能性就是标量 $yx = 0$。

这意味着：对应不同特征值的左特征向量与右特征向量相互正交。
(注意：这里 $y$ 是行向量，$x$ 是列向量，$yx$ 本质上就是标准内积)

对角化的本质

如果我们把这个结论推广到整个矩阵，它揭示了特征分解（Eigendecomposition）中 $P^{-1}$ 的真实身份。

假设 $A$ 是 $n \times n$ 矩阵，且有 $n$ 个线性无关的右特征向量 $x_1, \dots, x_n$（构成矩阵 $X$）和对应的左特征向量 $y_1, \dots, y_n$（构成矩阵 $Y$，其中 $y_i$ 为行）。

根据双正交性，$y_i x_j = 0$ (当 $i \neq j$)。如果我们适当归一化这些向量，使得 $y_i x_i = 1$，那么我们就会得到：

这就导出了一个在应用数学和物理中极其重要的视角：

$A$ 的右特征向量矩阵 $X$ 的逆矩阵 $X^{-1}$，其“行”正是 $A$ 的左特征向量。

当我们写出 $A = X \Lambda X^{-1}$ 时，其实我们是在写：

(这里 $x_i y_i$ 是一个秩为 1 的矩阵)

实际应用价值

  1. 马尔可夫链 (Markov Chains)：

    • 转移矩阵 $P$ 通常有一个特征值 $\lambda=1$。
    • 对应的右特征向量是稳态分布吗？不，通常 $Ax=x$ 在列随机矩阵中不代表分布。
    • 对于行随机矩阵（行和为1），$\lambda=1$ 的左特征向量 $\pi P = \pi$ 才是稳态概率分布。

  2. 摄动理论 (Perturbation Theory)：

    • 这是左特征向量最“显威风”的地方。如果你想知道矩阵 $A$ 的特征值 $\lambda$ 对矩阵元素的微小变化 $\delta A$ 有多敏感（即计算 $\frac{\partial \lambda}{\partial A}$）。
    • 公式是：$\delta \lambda \approx \frac{y (\delta A) x}{yx}$。
    • 这告诉我们：特征值的稳定性不仅取决于右特征向量，还取决于左特征向量与它的夹角。