线性代数核心知识回顾

Linear Algebra Core Concepts Review

1. 向量与向量空间

1.1 向量 (Vector)

• 定义：
  向量是既有大小（长度）又有方向的数学对象，通常表示为有序数组。
  A vector is a mathematical object with both magnitude (length) and direction, usually represented as an ordered array.

• 表示：

• 几何形式：$\vec{v} = (v_1, v_2, \dots, v_n)$

• 列向量：$\mathbf{v} = \begin{bmatrix} v_1 \ v_2 \ \vdots \ v_n \end{bmatrix}$

• 运算：

• 加法：对应分量相加
  $\vec{u} + \vec{v} = (u_1 + v_1, u_2 + v_2, \dots, u_n + v_n)$

• 标量乘法：$k\vec{v} = (kv_1, kv_2, \dots, kv_n)$

1.2 向量空间 (Vector Space)

• 定义：
  向量空间是向量的集合，满足加法和标量乘法的封闭性及8条公理（如结合律、分配律等）。
  A vector space is a set of vectors closed under addition and scalar multiplication, satisfying 8 axioms (e.g., associativity, distributivity).

• 关键性质：

• 线性组合 (Linear Combination)：$\alpha_1\vec{v}_1 + \alpha_2\vec{v}_2 + \dots + \alpha_n\vec{v}_n$

• 线性无关 (Linear Independence)：若$\sum \alpha_i\vec{v}_i = \vec{0}$仅当所有$\alpha_i = 0$时成立。

• 基 (Basis)：一个线性无关且能生成整个向量空间的向量组。
  A basis is a set of linearly independent vectors that span the entire vector space.

2. 矩阵与矩阵运算

2.1 矩阵定义 (Matrix)

• 表示：
  $\mathbf{A} = \begin{bmatrix} a_{11} & a_{12} & \dots & a_{1n} \ a_{21} & a_{22} & \dots & a_{2n} \ \vdots & \vdots & \ddots & \vdots \ a_{m1} & a_{m2} & \dots & a_{mn} \end{bmatrix}$

• 特殊矩阵：

• 单位矩阵 (Identity Matrix)：主对角线为1，其余为0的方阵，记为$\mathbf{I}_n$。

• 零矩阵 (Zero Matrix)：所有元素为0，记为$\mathbf{0}_{m \times n}$。

2.2 矩阵运算

2.3 矩阵的秩 (Rank)

• 定义：
  矩阵的行秩或列秩的最大值，即线性无关行（或列）的最大数目。
  The rank of a matrix is the maximum number of linearly independent rows (or columns).

• 性质：

• 若$\text{rank}(\mathbf{A}) = r$，则矩阵$\mathbf{A}$的列空间维度为$r$。

3. 行列式与逆矩阵

3.1 行列式 (Determinant)

• 定义：
  行列式是一个标量值，用于描述方阵的某些性质（如是否可逆）。
  The determinant is a scalar value that encodes properties of a square matrix (e.g., invertibility).

• 计算（2×2和3×3）：

• $2 \times 2$：$\det(\mathbf{A}) = a_{11}a_{22} - a_{12}a_{21}$

• $3 \times 3$：拉普拉斯展开或对角线法则。

3.2 逆矩阵 (Inverse Matrix)

• 定义：
  若存在矩阵$\mathbf{B}$使得$\mathbf{A}\mathbf{B} = \mathbf{B}\mathbf{A} = \mathbf{I}$，则$\mathbf{B}$是$\mathbf{A}$的逆矩阵，记为$\mathbf{A}^{-1}$。
  If there exists a matrix $\mathbf{B}$ such that $\mathbf{A}\mathbf{B} = \mathbf{B}\mathbf{A} = \mathbf{I}$, then $\mathbf{B}$ is the inverse of $\mathbf{A}$.

• 存在条件：
  $\mathbf{A}$可逆当且仅当$\det(\mathbf{A}) \neq 0$。

4. 线性方程组

4.1 线性方程组形式

$$
\begin{cases}
a_{11}x_1 + a_{12}x_2 + \dots + a_{1n}x_n = b_1 \\
a_{21}x_1 + a_{22}x_2 + \dots + a_{2n}x_n = b_2 \\
\vdots \\
a_{m1}x_1 + a_{m2}x_2 + \dots + a_{mn}x_n = b_m
\end{cases}
$$
可写为矩阵形式：$\mathbf{A}\mathbf{x} = \mathbf{b}$。

4.2 解的判定

• 唯一解：系数矩阵$\mathbf{A}$满秩（$\text{rank}(\mathbf{A}) = n$）。

• 无解：增广矩阵$\text{rank}(\mathbf{A}) < \text{rank}([\mathbf{A} | \mathbf{b}])$。

• 无穷多解：$\text{rank}(\mathbf{A}) = \text{rank}([\mathbf{A} | \mathbf{b}]) < n$。

5. 特征值与特征向量

5.1 定义

• 特征值 (Eigenvalue)：
  若存在非零向量$\mathbf{v}$使得$\mathbf{A}\mathbf{v} = \lambda \mathbf{v}$，则$\lambda$是$\mathbf{A}$的特征值。
  A scalar $\lambda$ is an eigenvalue of $\mathbf{A}$ if there exists a non-zero vector $\mathbf{v}$ such that $\mathbf{A}\mathbf{v} = \lambda \mathbf{v}$.

• 特征向量 (Eigenvector)：
  满足上述条件的非零向量$\mathbf{v}$。

5.2 计算步骤

1. 求解特征方程：$\det(\mathbf{A} - \lambda \mathbf{I}) = 0$。

2. 对每个特征值$\lambda$，解齐次方程组$(\mathbf{A} - \lambda \mathbf{I})\mathbf{v} = \mathbf{0}$得到特征向量。

5.3 应用

• 对角化 (Diagonalization)：若$\mathbf{A}$有$n$个线性无关特征向量，则$\mathbf{A} = \mathbf{P}\mathbf{D}\mathbf{P}^{-1}$（$\mathbf{D}$为对角矩阵）。

• 主成分分析 (PCA)：降维技术，基于协方差矩阵的特征值分解。

6. 核心公式总结

7. 快速记忆技巧

1. 秩的理解：矩阵的秩是“信息量”的度量，秩越高，信息越丰富。

2. 行列式的几何意义：2×2行列式的绝对值表示平行四边形的面积，3×3表示体积。

3. 特征值的物理意义：在振动分析中，特征值对应系统的固有频率。

下一步建议：

• 结合具体问题（如最小二乘法、奇异值分解等）深化理解。

• 使用工具（如NumPy、MATLAB）进行矩阵运算和可视化验证。