什么是向量的模长?

定义

向量的模长(Magnitude),也称为范数(Norm)或长度,是描述向量“大小”或“强度”的标量值。在几何上,它表示从向量的起点到终点的欧几里得距离。

对于一个 $ n $ 维实数向量 $\mathbf{v} = [v_1, v_2, \dots, v_n]$,其模长定义为:

$$
|\mathbf{v}| = \sqrt{v_1^2 + v_2^2 + \cdots + v_n^2} = \sqrt{\sum_{i=1}^{n} v_i^2}
$$

该公式来源于欧几里得范数(Euclidean norm),即 $ L^2 $ 范数。


几何解释

  • 在二维空间中,向量 $\mathbf{v} = [x, y]$ 的模长是其在平面上的长度:
    $$
    |\mathbf{v}| = \sqrt{x^2 + y^2}
    $$
    这等价于直角三角形的斜边长度(勾股定理)。

  • 在三维空间中,向量 $\mathbf{v} = [x, y, z]$ 的模长为:
    $$
    |\mathbf{v}| = \sqrt{x^2 + y^2 + z^2}
    $$

  • 推广到 $ n $ 维空间,模长即为从原点 $(0,0,\dots,0)$ 到点 $(v_1,v_2,\dots,v_n)$ 的直线距离。


性质

  1. 非负性:$|\mathbf{v}| \geq 0$,且 $|\mathbf{v}| = 0$ 当且仅当 $\mathbf{v} = \mathbf{0}$(零向量)。
  2. 齐次性:对任意标量 $ c $,有 $|c\mathbf{v}| = |c| \cdot |\mathbf{v}|$。
  3. 三角不等式:$|\mathbf{u} + \mathbf{v}| \leq |\mathbf{u}| + |\mathbf{v}|$。
  4. 与点积的关系
    $$
    \mathbf{v} \cdot \mathbf{v} = |\mathbf{v}|^2
    $$
    即向量与自身的点积等于其模长的平方。

示例

设向量 $\mathbf{v} = [3, 4]$,其模长为:

$$
|\mathbf{v}| = \sqrt{3^2 + 4^2} = \sqrt{9 + 16} = \sqrt{25} = 5
$$

这表示该向量在二维平面上的长度为 5 个单位。


在机器学习中的意义

  1. 归一化(Normalization)

    • 将向量除以其模长,得到单位向量(unit vector):
      $$
      \hat{\mathbf{v}} = \frac{\mathbf{v}}{|\mathbf{v}|}
      $$
    • 单位向量的模长为 1,仅保留方向信息,常用于计算余弦相似度。
  2. 相似度计算

    • 余弦相似度定义为:
      $$
      \text{cosine similarity} = \frac{\mathbf{a} \cdot \mathbf{b}}{|\mathbf{a}| |\mathbf{b}|}
      $$
    • 它衡量两个向量方向的夹角,不受模长影响。
  3. 正则化

    • 在损失函数中加入模长的平方(如 L2 正则化)可防止模型过拟合。

总结

向量的模长是其在空间中的几何长度,计算方式为各分量平方和的平方根。它是向量的基本属性之一,在数学、物理和机器学习中广泛用于衡量大小、进行归一化、计算相似度以及优化模型。