柯西-施瓦茨不等式

柯西-施瓦茨不等式 $|⟨u,v⟩|\le \Vert u\Vert \Vert v\Vert$ 限定内积不会超出范数乘积，是夹角定义良定、三角不等式成立的总开关。

陈述

任意内积空间中：

$$|⟨u,v⟩|\le \Vert u\Vert \Vert v\Vert$$

等号成立当且仅当 $u,v$ 线性相关。坐标形式即中学熟知的 $(\sum a_i{b}_i{)}^2\le (\sum a_i^2)(\sum b_i^2)$；积分形式 ${\left(\int fg\right)}^2\le \int f^2\int g^2$；概率形式 $|E[XY]{|}^2\le E[X^2]E[Y^2]$——同一不等式的三种皮肤。

证明一行

对任意 $t$，$0\le \Vert u+tv{\Vert }^2=\Vert u{\Vert }^2+2t⟨u,v⟩+t^2\Vert v{\Vert }^2$；右端关于 $t$ 的二次函数非负，判别式 $\le 0$ 即得。

三个直接后果

后果	内容
夹角良定义	$\cos \theta =\frac{⟨u,v⟩}{\Vert u\Vert \Vert v\Vert }\in [-1,1]$——比值被压在区间内，正交与正交基的「垂直」才有意义
三角不等式	$\Vert u+v\Vert \le \Vert u\Vert +\Vert v\Vert$，即范数公理中的次可加性
Bessel 不等式	投影系数平方和不超过 $\Vert x{\Vert }^2$，标准正交基展开的收敛性基石

应用

• Heisenberg 不确定性原理：位置-动量标准差乘积下界正是本不等式在量子态空间（酉几何）中的推论
• 机器学习：协方差不等式、相关系数 $|\rho |\le 1$、注意力打分上限皆是其变体

相关笔记

• 内积 — 不等式的母结构
• 正交与正交基 — 等号条件（线性相关）的另一端是正交（内积为零）
• 范数 — 由内积诱导，三角不等式由此保障