内积不止点积一种:凡满足对称、线性、正定三公理的都是内积,换内积即换几何。

除了标准内积(又称点积,即各坐标乘积之和,欧氏空间的标准度量),在定义内积空间时,只要满足对称性、线性和正定性这三个核心公理,就可以构造出许多不同形式的内积。

对于有限维实向量空间 ,所有可能的内积都可以通过一个对称正定矩阵 (Symmetric Positive-Definite Matrix)来统一定义:

标准内积本质上只是 (单位矩阵)时的特例。


常见内积类型

加权内积(Weighted Inner Product)

当矩阵 为对角矩阵 且所有权重 时:

  • 物理/几何含义:给不同的坐标轴分配不同的权重。这相当于对空间在不同方向上进行了压缩或拉伸,导致等距离线从标准的“超球面”变成了“超椭球面”。
  • 应用场景:加权最小二乘法(WLS)、加权特征匹配(给高置信度维度的特征分配更高的距离度量比重)。

图中 把单位圆压成半轴 的椭圆:虚线方向上两个「单位向量」长度不再相等——长度取决于所选的内积。

马氏内积与协方差结构(Mahalanobis-like Inner Product)

当矩阵 (其中 是特征分布的协方差矩阵)时:

它诱导出的度量即为马氏距离(Mahalanobis Distance,详见马氏距离)。

  • 物理/几何含义:消除了不同特征维度之间的相关性(非对角线元素)和方差差异(对角线元素),在统计分布的意义下重新定标空间几何。
  • 应用场景:高斯混合模型(GMM,见高斯分布)、特征空间的异常检测、剔除噪声维度的分类器设计。

泛函空间中的积分内积(Integral Inner Product)

如果将向量空间从有限维 推广到无限维的函数空间 (平方可积函数空间,泛函分析的基本舞台),离散的求和便自然演变为连续的积分:

也可以引入权重函数 :

  • 应用场景:
    • 正交多项式:如 Legendre 多项式、Chebyshev 多项式,它们是在特定积分内积下相互正交的基函数(函数正交详见正交与正交基)。
    • 信号处理:傅里叶变换的核心本质,就是将信号函数投射到由三角函数组成的正交基底上。

复向量空间中的 Hermite 内积

复向量空间 上为保证内积诱导的范数为实数,需改用共轭对称的 Hermite 内积:

为何必须共轭、酉结构 与量子力学应用,详见 向量空间的结构;完备化后的复内积空间即 希尔伯特空间,是量子力学态空间的严格模型。


内积变化带来的几何改变

无论定义哪种内积,只要其满足内积公理,它所诱导的范数(长度)和夹角定义就会随之改变:

概念依靠内积定义的表达形式
范数(长度)
夹角(余弦)
正交(垂直)向量 与 正交(详见正交与正交基)

夹角定义的良定性()由柯西-施瓦茨不等式保障。

这意味着:在标准内积下不垂直的两个向量,在更换内积定义后可以是完全正交的。 这种思想在机器学习中的核方法(Kernel Methods,如 支持向量机(SVM) 或 Kernel PCA)里有深刻应用——通过内积的隐式变换(),将低维非线性可分的数据映射为高维内积空间中的线性可分数据。