矩阵论2：线性空间

数形结合对于非数学系学生理解和应用矩阵论知识至关重要

线性空间

前置知识

笛卡尔积：

$$\def\bm{\boldsymbol} A \times B \overset{def}{=} \{ (a,b)|a\in A,b \in B \}$$

映射：对于 $S$ 和 $S’$ 两个集合，如果存在一个法则 $f$ ，使得 $S$ 中的每一个元素 $s$ 都有 $S’$ 中唯一确定的一个元素$s’$ 与它对应，则称 $f$ 是 $S$ 到 $S’$ 的一个映射，记作

$$\begin{align} f: S &\rightarrow S' \\ \alpha &\mapsto \beta \end{align}$$

代数运算：对于非空集合 $A,B,C$ ，定义一个如下映射，

$$\begin{align} f: A\times B &\rightarrow C \\ (a,b) &\mapsto c \end{align}$$

这种映射被称为 $A\times B$ 到 $C$ 的代数运算。当 $A,B,C$ 均为 $S$ 时，这种映射也被称为 $S$ 上的（二元）代数运算，例如实数加法至于实数域，称这种运算对于 $S$ 封闭。

---

线性空间

定义：设 $V$ 是一个非空集合，$F$ 是一个数域（常见的有实数域 $\mathbb R$ 和复数域 $\mathbb C$）。在 $V$ 上定义了一种代数运算：$(v,v)\mapsto v$ ，叫做加法；再定义一种 $F\times V$ 到 $V$ 的代数运算：$(k,v)\mapsto v$ ，叫做数乘。如果定义的这两种运算符合以下8条运算法则：对任意 $a,b,c\in V$ ，任意的 $k,l\in F$ ，都有

1. 加法交换律：$a+b = b+c$
2. 加法结合律：$(a+b)+c=a+(b+c)$
3. 零元：存在零元 $\theta\in V$ 使得 $a+\theta = a$
4. 负元：存在 $a$ 的负元 $a’\in a$ 使得 $a+a’=\theta$
5. 乘法结合律：$k(la)=(kl)a$
6. 乘法分配律：
   1. $k(a+b)=ka+kb$
   2. $(k+l)a=ka+la$
7. 乘法单位律：$1\cdot a=a$

例1：集合 $V={\boldsymbol x|\boldsymbol x=[x_1,x_2,1]^T,\ x_1,x_2\in R}$ 不是一个向量空间，其（普通向量含义下的）加法和数乘法都不封闭，不符合定义。

$$\boldsymbol x=[1,1,1]^T \\ 2\boldsymbol x = \boldsymbol x + \boldsymbol x = [2,2,2]^T \notin V$$

但可以定义新的加法和数乘，使其符合加法和数乘的条件和8条定律，如下，

$$v^{(1)}\oplus v^{(2)} = [x_1^{(1)}+x_1^{(2)},x_2^{(1)}+x_2^{(2)},1]\in V\\ k\otimes v = [kx_1,kx_2,1]\in V$$

例2：定义的加法和数乘也可以完全不符合通常的加法和乘法，比如 $a\oplus b = ab,\ k\otimes b=a^k$

---

基和维数

定义：如果给定域 $F$ 上的线性空间 $V$ 中存在一组向量 $\bm \alpha_1,…,\bm \alpha_r$ ，满足：

1. $\bm \alpha_1,…,\bm \alpha_r$ 线性无关；
2. $V$ 中任意向量 $\bm \alpha$ 都能由线性 $\bm \alpha_1,…,\bm \alpha_r$ 表示，即存在唯一 $\lambda_1,…,\lambda_r\in F$ ，使得

$$\boldsymbol \alpha = \lambda_1 \boldsymbol \alpha_1+...+\lambda_r\boldsymbol \alpha_r$$

则称 $\bm \alpha_1,…,\boldsymbol \alpha_r$ 为 $V$ 的一个基，系数 $\lambda_1,…,\lambda_r$ 称为 在此 $\boldsymbol \alpha$ 基下的坐标，基中的向量个数 $r$ 称为 $V$ 的维数，记为 $dimV = r$ 。

---

基的变换

定义：设 $\bm \alpha_1,…,\bm \alpha_r$ 和 $\bm \beta_1,…,\bm \beta_r$ 是 $r$ 维线性空间 $V$ 的两组基，则存在可逆矩阵 $P$ ，使得

$$(\bm \beta_1,...,\bm \beta_r) = (\bm \alpha_1,...,\bm \alpha_r)P$$

则称上式为基变换公式，$P$ 为过渡矩阵，即

$$P = (\bm \alpha_1,...,\bm \alpha_r)^{-1} (\bm \beta_1,...,\bm \beta_r)$$

对于在不同基下两个相同的向量 $y$，在不同的两个基表达下分别为 $x_1,x_2$

$$\begin{aligned} y & = (\bm \alpha_1,...,\bm \alpha_r)\bm x_1 \\ y & = (\bm \beta_1,...,\bm \beta_r)\bm x_2 \\ \Rightarrow \bm x_1 & = (\bm \alpha_1,...,\bm \alpha_r)^{-1} (\bm \beta_1,...,\bm \beta_r)\bm x_2 \\ &= P\bm x_2 \end{aligned}$$

这就是坐标变换公式

⭐注意这里有两个相反，$P$ 的先后位置是反的，$P$ 变化方向也是反的

---

生成空间

$$V =span \{S\}= span\{ \bm \alpha_1,...,\boldsymbol \alpha_r ,...\} = \{ \bm x= \boldsymbol \alpha = \lambda_1 \boldsymbol \alpha_1+...+\lambda_r\boldsymbol \alpha_r+...|\lambda_i\in F\}$$

其中 $S$ 是该向生成空间的生成集合，$V$ 的一个生成集合不必是 $V$ 的一组基，因此不必是线下无关的，但是对给定向量空间的极小生成集合一定是一组基。

---

向量空间

从线性空间的定义可以看出，任何元素只要可以定义符合8条定律的代数运算，就可以成为线性空间的元素。而在过去学习的向量 $(x_1,…,x_N)^T$ 只是其中一种。

但在现代数学（以集合论为基础）中：线性空间中的元素就是向量，向量就是线性空间中的元素。所以线性空间和向量空间指的是一个东西，数学中的向量定义就是从线性空间出发的。

从工科的角度，为了方便理解，可以认为将以前学习的向量认为是狭义的，数学角度的向量是广义的，而广义的向量和狭义的向量是同构的。

---

同构

定义：设 $V_1,V_2$ 是数域 $F$ 上的两个线性空间，若存在双射（见上图）$f: V_1 \rightarrow V_2$ 满足：

$$\forall \alpha,\beta \in V_1 ,\forall k\in F\\ \begin{aligned} f(\alpha+\beta) &= f(\alpha) + f(\beta)\\ f(k\alpha) &= kf(\alpha) \end{aligned}$$

则称 $V_1,V_2$ 同构，$f$ 称为同构映射，表示为 $V_1 \cong V_2$

例：数域 $F$ 上的 $n$ 维性空间 $V\cong F^n$

根据定义，对于映射 $f: V\rightarrow F^n$ ，即

$$\alpha = x_1\alpha_1 + ... + x_n\alpha_n \in V \overset{f}{\rightarrow}x = \begin{pmatrix} x_1\\ \vdots\\ x_n \end{pmatrix} \in F^n$$

易于证明 $f$ 是同构映射

---

万物皆向量

根据同构定义，可以得到以下结论：

数域 $F$ 上的任意两个有限维线性空间同构的充要条件是它门有相同的维数。

这说明，维数是有限维线性空间的唯一本质特征。$F^n$ 并不是 $n$ 维线性空间中的一个，而是所有 $n$ 维线性空间的代表。

关于向量的定义，可以分为以下三种：

1. 物理角度：从初到末的箭头，与标量相对
2. 计算机角度：有序的数字列表
3. 数学角度：加法和数乘有意义的任何东西

今后，为了消除歧义，我将只使用第三种定义，并直接称呼线性空间为向量空间。同时在这个定义下，矩阵是一种向量，而矩阵又是由向量组成，所以这里有一个俄罗斯套娃的关系，深刻思考这种关系，也可以解释为何数学中只研究向量和矩阵，而不研究更高维的张量（因为在数学的视角里其本质是一样的）。

例：以下内容皆为向量空间

1. 所有 $m\times n$ 阶矩阵按照矩阵的加法和数乘，构成向量空间 $R^{m\times n}$
2. 闭区间 $[a,b]$ 上的连续函数按照通常函数的加法和数乘，构成向量空间 $C[a,v]$
3. 次数小于 $n$ 的多项式按照通常多项式的加法和数乘，构成向量空间 $P[x]_n$
4. 齐次线性方程组 $A\bm x=0$ 的所有解的集合构成向量空间 $N(A) = { \bm x\in R^n|A\bm x=0}$ ，称为 $A\bm x=0$ 的解空间或者 $A$ 的零空间
5. 所有 $A\bm x$ 的集合构成向量空间 $R(A) = { \bm y\in R^m|y = A\bm x}$ ，称为矩阵 $A$ 的列空间
6. ……