Cholesky 分解

Cholesky 分解是对称正定矩阵的专属快车道：$A=L{L}^{\mathsf{T}}$。它省掉一半计算与存储、不需要主元、还自带正定性体检——凡是「平方和结构」的矩阵（协方差、Gram 矩阵、能量 Hessian）都走这条路。

定义

$A$ 对称正定（$x^{\mathsf{T}}Ax>0\forall x\ne 0$）时，存在唯一分解：

$$A=L{L}^{\mathsf{T}},L\text{ 下三角，对角元全正}$$

它是 LU 分解 的特例：对称性把 $U$ 锁死为 $L^{\mathsf{T}}$（对照 $A=LD{L}^{\mathsf{T}}$ 可见），正定性保证 $L$ 对角元为正且过程无需换行。计算量约为 LU 的一半，存储同减半。

正定性检验有免费的副产品：分解跑到一半出现负数开根，矩阵不正定——比算特征值或主子式便宜得多。

用武之地：采样、优化与核方法

• 协方差采样：欲从 $\mathcal{N}(\mu ,\Sigma )$ 采样（见高斯分布），取 $\Sigma =L{L}^{\mathsf{T}}$，则 $\mu +Lz$（$z\sim \mathcal{N}(0,I)$）即所求——扩散模型每次去噪步的采样、高斯过程后验采样都靠它
• 解 SPD 方程组：牛顿法解优化的每步 $Hp=-\nabla f$，$H$ 正定时用 Cholesky 解，两倍速于 LU 分解
• 核矩阵求逆：$K=L{L}^{\mathsf{T}}$ 后 $\det K=\prod L_{ii}^2$ 与 $K^{-1}$ 同步到手

数值线性代数的经验法则：矩阵一旦对称正定，就不要再用通用分解。

相关笔记

• LU 分解 — 通用三角分解，本篇的母体
• 高斯分布 — 协方差采样的分布背景
• 内积 — 正定性正是内积公理的那一条，SPD 矩阵本质是 ${\mathbb{R}}^n$ 上的内积