列空间、零空间与秩
一、回顾:变换会”压缩”空间
可逆变换保持空间满维。但不可逆变换会压扁空间——这时就需要问两个问题:
- 输出向量都”落在”哪里?→ 列空间
- 哪些向量被压到了原点?→ 零空间
二、列空间(Column Space)
定义
矩阵 的列空间(column space) 是所有可能输出的集合:
几何意义:变换后的空间长什么样。
为什么叫”列空间”
回想:
输出永远是列的线性组合!所以:
例:M = [[1, 2], [2, 4]](第 2 列 = 第 1 列 × 2)
列空间 = span{(1,2)} = 一条直线
⟹ 这个变换的所有输出都落在 y = 2x 这条直线上
判断 是否在列空间
方程 有解 ⟺ 。
几何上: 必须落在变换后的空间里,才能有某个 映射到它。
三、零空间(Null Space)
定义
矩阵 的零空间(null space) 是所有被映射到原点的向量集合:
几何意义:变换过程中”被压扁到原点”的那些向量。
┌───┐ ●
│ │ det=0 (整个压扁的方向都落到原点)
└───┘ ──► 原点
为什么零空间很重要? 因为它是”信息丢失的方向”。如果 有非零解 ,那么 和 会映射到同一个输出:
零空间越大,丢失的信息越多。
四、秩(Rank)与维数定理
秩的定义
秩(rank) = 列空间的维度 = 变换后空间的维度。
- 满秩(rank = 2 for 2×2):变换没压扁,可逆
- 欠秩(rank = 1):压成一条线
- rank = 0:压成一个点
维数定理(Rank-Nullity Theorem)
其中 是输入空间的维度(矩阵列数)。
几何直觉:输入空间被分成两部分——“变成输出空间的部分”(列空间)和”被压到原点的部分”(零空间)。两者加起来正好是输入空间的全部维度。
例:M = [[1, 2], [2, 4]](2×2,压成直线)
列空间:一条线 → 维度 1
零空间:Mx = 0 的解是 x₂ = -x₁/2(一条线)→ 维度 1
维数定理:1 + 1 = 2 ✓
与行列式、可逆性的统一
| 条件 | 含义 |
|---|---|
| det ≠ 0 | 满秩,零空间只有零向量,可逆 |
| det = 0 | 欠秩,零空间含非零向量,不可逆 |
一张图理解四个概念:
输入空间 (n 维)
├── 映射到列空间的部分(维度 = rank)
└── 压到零空间的部分(维度 = n − rank)
↓
列空间 + 零空间 = 输入空间 (维数定理)- 列空间 = 变换能”到”哪里(输出的集合)
- 零空间 = 变换”压掉”了什么(变到原点的集合)
- 秩 = 列空间的维度,衡量变换的”信息保留量”
- 满秩 ⟺ 可逆 ⟺ det ≠ 0 ⟺ 零空间为 0
五、一个完整例子
- 列空间:两列共线,(直线,维数 1)
- 零空间:解
- 得 ,即 (直线,维数 1)
- 秩:rank = 1
- 验证维数定理:1 + 1 = 2 ✓
- 结论: 不可逆,方程 要么无解( 不在列空间),要么无穷多解
小结
- 列空间 = 所有可能输出的集合 = 列的张成
- 零空间 = 被映射到原点的向量集合(丢失信息的方向)
- 秩 = 列空间的维度
- 维数定理:列空间维数 + 零空间维数 = 输入维数
- 满秩 ⟺ 可逆 ⟺ det ≠ 0 ⟺ 零空间只有零向量
下一章:点积、叉积与对偶,探索向量之间的乘法与”对偶”之美。
