总结：向量的各种积

向量运算包括内积、外积、哈达玛积和张量积，各有不同的几何意义和应用场景。

内积（Dot Product）

$a \cdot b = \sum_{i = 1}^{n} a_{i} b_{i}$

几何意义：衡量向量相似度，计算向量长度 $∥ a ∥ = a \cdot a$

应用：Transformer注意力机制、余弦相似度、功的计算

$a \times b = (a_{2} b_{3} - a_{3} b_{2}, a_{3} b_{1} - a_{1} b_{3}, a_{1} b_{2} - a_{2} b_{1})$

几何意义：结果垂直于两向量，大小为平行四边形面积

应用：力矩、角动量、法向量计算

$a ⊙ b = (a_{1} b_{1}, a_{2} b_{2}, \dots, a_{n} b_{n})$

应用：逐元素运算、注意力掩码、激活函数

$a \otimes b = a_{1} b a_{2} b ⋮$

应用：量子计算、核方法、张量分解