线性代数

1. 前置知识

1.1 集合

集合的笛卡尔积对交并运算具有分配律。

1.2 代数结构

$G$ 是非空集合，其上有二元运算 $\cdot$：$G\times G\rightarrow G$，满足如下性质：

1. 结合律
2. 存在幺元 $\epsilon$（注意幺元左乘右乘都要满足，因此可定义出左幺元和右幺元）
3. 每个元素都存在逆元（也可以定义出左右逆元）

则 $(G,\cdot)$ 是群。如果满足上述条件，那么可以证明，幺元是唯一的，对于任何元素其逆元都是唯一的。但实际上 2、3 条只需要单边定义即可。

$(G,\cdot)$ 只要封闭就是一个原群，若满足结合律则是半群，存在幺元的半群是幺半群，满足交换律的群是阿贝尔群。

群满足消去律，即 $a\cdot c=b\cdot c$ 或者 $c\cdot a=c\cdot b$ 可以得到 $a=b$。

若 $(R,+)$ 是阿贝尔群，$(R,\cdot)$ 是半群，且满足分配律 $a\cdot(b+c)=a\cdot b + a\cdot c$ 和 $(a+b)\cdot c=a\cdot c+b\cdot c$。则 $(R,+,\cdot)$ 是一个环，$+$ 的幺元记作 $0$，逆元记作 $-a$。

如果 $(R,\cdot)$ 是幺半群则得到幺环，乘法对于非零元素都有逆元则是除环，而满足交换律则是交换环。

若 (F,+),(F\{0},\cdot) 都是阿贝尔群，那么 $(F,+,\cdot)$ 是一个域。

2. 一元多项式理论

3. 线性空间

1. 矩阵与向量

• 若 $\bm{A},\bm{B}$ 都为 $n$ 行 $m$ 列的矩阵，则 $\bm{A},\bm{B}$ 称为同型矩阵；
• 用 $e_i$ 表示基本列向量，$f_i$ 表示基本行向量；
• 矩阵的行和列互换，称为转置矩阵，记作 $\bm{A}^\top$，当 $\bm{A}=\bm{A}^\top$ 时，$\bm{A}$ 是对称矩阵，若 $\bm{A}^\top=-\bm{A}$，则 $\bm{A}$ 是反称矩阵；
• 矩阵的分块，我对它的理解是：矩阵的元素是矩阵；如果分块后其主对角线上的矩阵是方阵（阶数可以不同），其余子块均为零矩阵，那么它是分块对角矩阵；
• 对角矩阵：只有主对角线有值的方阵，记为 $\bm{A}=\operatorname{diag}\{a_{11},a_{22},\cdots,a_{nn}\}$，全相等时称为标量矩阵；

1.1 矩阵的初等变换

• 三种初等变换
  • 倍法变换：给某一行或列（接下来只写行）乘上一个非零数，$\bm{A}\xrightarrow{r_i\times k}\bm{B}$；
  • 消法变换：用一个数乘上某一行后再加到另一行上，$\bm{A}\xrightarrow{r_i\times k+r_j}\bm{B}$；
  • 换法变换：交换两行，$\bm{A}\xrightarrow{r_i\leftrightarrow r_j}\bm{B}$；
  • 对单位矩阵实施一次初等变换得到初等矩阵。
• 等价关系：
  • 经过有限次初等变换后相等，$\bm{A}\cong \bm{B}$。

任意一个矩阵都可以经过若干次初等变换变为标准形矩阵，是一个 $2\times 2$ 的分块矩阵，左上角为单位矩阵，其余三个子块为零矩阵。单位矩阵的阶就是原矩阵的秩。

1. $R(\bm A + \bm B)\le R(\bm A)+R(\bm B)$，
2. $R(\bm A)+R(\bm B)-n\le R(\bm A\bm B)\le \min\{R(\bm A),R(\bm B)\}$。

若只允许使用行初等变换，那么可以变成一个行阶梯形矩阵，即左下角有一个全 $0$ 阶梯（而且每个台阶高为 $1$）。如果行首非零元素为 $1$，且这个 $1$ 所在的列的其余元素为 $0$，那么它是行最简形矩阵。显然，行阶梯型矩阵的秩等于其行数。

使用初等矩阵左乘矩阵相当于行变换，右乘相当于列变换。

2. 行列式

$|\bm A| =a_{11}a_{22}-a_{12}a_{21}$。

$|\bm A| =a_{11}a_{22}a_{33}+a_{12}a_{23}a_{31}+a_{13}a_{21}a_{32}-a_{13}a_{22}a_{31}-a_{12}a_{21}a_{33}-a_{11}a_{23}a_{32}$。

$$|\bm A|=\sum_{j为 1\sim n 的排列}(-1)^{\tau(j_1,j_2,\cdots,j_n)} \prod_{i=1}^n a_{ij_i}$$

每一个乘积都是一个均布项。

$|\bm A|=|\bm A^\top|$。三角矩阵的行列式等于主对角线的乘积。

行列式某一行的公因子可以提到行列式外面去，消法变换不会改变行列式的值，一次换法变换使得行列式的值变为相反数。这句话可以推出，如果行列式有两行（列）成比例，那么行列式的值是 $0$。

$\det \bm A \ne 0$ 的充要条件是 $\bm A$ 满秩。

$|\bm A|=|\bm B||\bm C|$，其中 $\bm A= \begin{bmatrix}\bm B\ \bm O\\ \bm D\ \bm C\end{bmatrix}$，$|\bm A\bm B|=|\bm A||\bm B|$。

在矩阵中选取 $k$ 行 $k$ 列得到一个方阵，其行列式是一个 $k$ 阶子式，记作 $D_k$。如果 $\exist D_r\ne 0$，且 $\forall D_{r+1}=0$，则 $R(\bm A)=r$。

也正因如此，如果 $R(\bm A)\le n-2$，证明任意一个 $n-1$ 阶子式都为 $0$，也就是所有代数余子式都为 $0$，因此 $R(\bm A^*)=0$。也有 $R(\bm A)=n\Rightarrow R(\bm A^*)=n,R(\bm A)=n-1\Rightarrow R(\bm A^*)=1$。

2.1 行列式展开定理

将第 $i$ 行第 $j$ 列划掉之后得到 $a_{ij}$ 的余子式，记作 $M_{ij}$。$a_{ij}$ 的代数余子式 $A_{ij}=(-1)^{i+j} M_{ij}$，代数余子式方阵转置后得到伴随矩阵，记作 $\bm A^*$。

展开定理：

1. $\displaystyle\sum_{k=1}^n a_{ik}A_{ik}=\sum_{k=1}^n a_{ki}A_{ki}=|\bm A|$；
2. 当 $i\ne j$ 时，$\displaystyle\sum_{k=1}^n a_{ik}A_{jk}=\sum_{k=1}^n a_{ki}A_{kj}=0$。

任意选定 $k$ 行 $k$ 列得到的行列式称为 $k$ 阶子式 $M$，剩余部分的行列式称为 $M$ 的余子式。假设选择的行、列编号分别为 $i_{1,\cdots,k},j_{1,\cdots,k}$，则 $M$ 的代数余子式是余子式乘上 $(-1)^{\sum i+\sum j}$。

Laplace 定理：任意选择 $k$ 行后，共 $\binom n k$ 个 $k$ 阶子式，每个子式都乘上其代数余子式，求和后得到原行列式。

范德蒙德行列式：

$$\begin{vmatrix} 1 & 1 & 1 & ... & 1\\ a_1 & a_2 & a_3 & ... & a_n\\ \vdots & \vdots & \vdots &\ddots &\vdots \\ a_1^{n-2} & a_2^{n-2} & a_3^{n-2} & ... & a_n^{n-2}\\ a_1^{n-1} & a_2^{n-1} & a_3^{n-1} & ... & a_n^{n-1} \end{vmatrix} =\prod_{1\le i<j\le n}(a_j-a_i)$$

3. 逆矩阵

$(\bm A \bm B)^{-1}=\bm B^{-1}\bm A^{-1}$。

$\bm A\bm A^{*}=\bm A^{*}\bm A=|\bm A|\bm E$，因此 $|\bm A^*|=|\bm A|^{n-1}$。

方阵可逆的充要条件是 $|\bm A|\ne 0$（即方阵满秩），且 $\bm A^{-1} = \dfrac{\bm A^*}{|\bm A|}$。

在求解满秩矩阵的逆矩阵时，采用初等行变换将 $\bm A$ 化为单位矩阵，构造 $\begin{bmatrix}\bm A & \bm E\end{bmatrix}$，最终单位矩阵就会变成逆矩阵。当然也可以上下拼接并采用初等列变换。

4. 线性方程组

考虑如下线性方程组：

$$\begin{cases} a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n = b_1 \\ a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n = b_2 \\ \dots\\ a_{m1}x_1 + a_{m2}x_2 + \cdots + a_{mn}x_n = b_m \end{cases}$$

可以写成矩阵形式：

$$\begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{bmatrix} = \begin{bmatrix} b_1 \\ b_2 \\ \vdots \\ b_m \end{bmatrix}$$

称 $m$ 行 $n+1$ 列的矩阵 $\bm B=(\bm A,\bm b)$ 为增广矩阵。

当 $\bm b\ne 0$ 时，为非齐次线性方程组，否则是齐次线性方程组。

线性方程组有解时说它是相容的。

Cramer 法则：对于有 $n$ 个未知量 $n$ 个方程的线性方程组，记 $D_j$ 代表用 $\bm b$ 代替 $\bm A$ 中第 $j$ 列所得到的行列式，若 $|\bm A|\ne 0$，则 $x_j=\dfrac {D_j}{\det \bm A}$。

注意到对增广矩阵进行初等行变换对方程组没有改变。有关于解的个数的定理：

1. 非齐次线性方程组有解当且仅当 $R(\bm A)=R(\bm A,\bm b)$，齐次线性方程组一定有解；
2. $n$ 元线性方程组有无穷多解的充要条件是 $R(\bm A)=R(\bm A,\bm b)<n$，有唯一解的充要条件是 $R(\bm A)=R(\bm A,\bm b)=n$。

因此，向量组线性无关的充要条件是 $R(\bm\alpha_1,\bm\alpha_2,\cdots,\bm\alpha_s)=s$。

1. 对于齐次线性方程组，基础解系包含 $n-R(\bm A)$ 个解向量；
2. 设 $\eta_0$ 是 $\bm A \bm x =\bm b$ 的一个解，$\xi_1,\cdots,\xi_{n-r}$ 是 $\bm A\bm x =\bm 0$ 的一个基础解系，那么方程的通解为 $\bm x = \eta_0+\sum k_i\xi_{i}$。

求解齐次线性方程组的基础解系时，将增广矩阵化为行最简形，那么如果一列不是 $(0,\cdots,0,1,0,\cdots,0)^\top$ 列，那么该列表示的变量是自由的，此时用这些自由的变量表示非自由的变量，假设 $x_i$ 是自由的，那么基础解系中的一个解向量就是表达 $x_1\sim x_n$ 中 $x_i$ 的系数。

5. 方阵的特征值、特征向量与相似化简

方阵的迹（trace）：$\operatorname{tr} \bm A=\sum_{i=1}^n a_{ii}$。

5.1 方阵的特征值和特征向量

设 $\bm A$ 是 $n$ 阶矩阵，若存在数 $\lambda$ 和 $n$ 维非零列向量 $\bm\alpha$，使得 $\bm A\bm\alpha=\lambda\bm\alpha$，那么 $\lambda$ 是特征值（特征根），$\bm\alpha$ 为对应于 $\lambda$ 的特征向量，$\lambda\bm E-\bm A$ 是特征矩阵，$\varphi(\lambda)=\det(\lambda\bm E-\bm A)$ 为特征多项式，$\varphi(\lambda)=0$ 为特征方程。在复数域上，$\bm A$ 恰有 $n$ 个特征值（可能有重根）。

已知特征根求特征向量时，只需要求解齐次线性方程组 $(\lambda E-\bm A)\bm\alpha=\bm 0$。

不难得知，上（下）三角矩阵的特征根就是主对角线上的元素。也不难得知，$\varphi(\lambda)$ 是一个 $n$ 次多项式，其系数 $c_n=1,c_{n-1}=-\operatorname{tr} \bm A,c_0=\varphi(0)=\det(-\bm A)$。

有 $\operatorname{tr} \bm A=\sum_{i=1}^n \lambda_i,\det \bm A=\prod_{i=1}^n \lambda_i$。

设 $\lambda_i$ 是 $n_i$ 重特征值，那么其对应的特征向量中线性无关组的大小最多为 $n$。不同特征根对应的特征向量一定线性无关。

5.2 方阵的相似

若存在 $\bm P$ 使得 $\bm P^{-1}\bm A\bm P=\bm B$，则 $\bm A\sim \bm B$，这一操作称为相似变换，$\bm P$ 是相似因子（相似变换矩阵）。

若 $\bm A\sim \bm B$，则可推出 $R(\bm A)=R(\bm B),|\bm A|=|\bm B|,\bm A^\top \sim \bm B^\top,\bm A^{-1}\sim \bm B^{-1},f(\bm A)\sim f(\bm B)$，$\bm A$ 和 $\bm B$ 具有相同的特征多项式和特征根。

$n$ 阶方阵 $\bm A$ 能和对角矩阵相似的充要条件是 $\bm A$ 存在 $n$ 个线性无关的特征向量，而该对角矩阵主对角线的元素正是 $\bm A$ 的特征根，相似因子 $\bm P$ 的每一列都是一个特征向量，且与那些特征根所在的列一一对应。

5.3 一些特殊矩阵

5.3.1 正交矩阵

若 $\bm\alpha\bm\beta=0$，则称 $\bm\alpha,\bm\beta$ 正交，而正交向量组是线性无关组的充分不必要条件。如果每个向量都是单位向量，则是单位正交组。

Schmidt 单位正交化可以将一个线性无关的向量组化为单位正交组，我们先处理正交这一条件，单位化是好处理的（每个向量都除以它的模长）。想要正交，只需要令 $\displaystyle b_i=a_i-\sum_{j=1}^{i-1}\frac{b_j\cdot a_i}{b_j\cdot b_j}b_j$。

如果 $n$ 阶实矩阵 $\bm A$ 的列向量是单位正交组，那么其是正交矩阵，判定正交矩阵的充要条件是 $\bm A\bm A^{\top}=\bm E$。

若 $\bm A,\bm B$ 是正交矩阵，那么 $\det \bm A=1\ 或\ -1$，$\bm A \bm B$ 是正交矩阵。用正交矩阵作为相似因子做正交变换称为正交变换。

5.3.2 共轭矩阵

每一个元素都换成其共轭复数得到共轭矩阵 $\overline{\bm A}$。

我们有 $\det \overline{\bm A} = \overline{\det \bm A},(\overline{\bm A})^{-1}=\overline{\bm A^{-1}}$。

5.4 实对称矩阵的相似对角化

实对称矩阵的所有特征根都是实数，且对应不同特征值的特征向量正交。相似对角化时，相似因子是一个正交矩阵，只需要在求解出一个特征根对应的基础解系后，将其单位正交化即可。

5.5 实矩阵的相似

6. 二次型

定义二次型为 $\displaystyle f(x_1,\cdots,x_n)=\sum_{i=1}^n\sum_{j=1}^n a_{ij}x_ix_j$，其中 $a_{ij}=a_{ji}$，那么有唯一的对称 $n$ 阶方阵 $\bm A$，使得列向量 $\bm x$ 满足 $f(\bm x)=\bm x^\top \bm A\bm x$。其中 $\bm A$ 称为二次型 $f$ 的矩阵，矩阵的秩定义为二次型 $f$ 的秩。

已知列向量 $\bm y$，若 $\bm x=\bm P\bm y$，那么这是 $\bm y\rightarrow \bm x$ 的线性变换（因为满足线性），$\bm P$ 称为系数矩阵，当 $\bm P$ 可逆时，称为可逆线性变换（满秩线性变换、非退化线性变换），不可逆时可称为降秩线性变换。

若存在可逆矩阵 $\bm P$，使得 $\bm P^\top \bm A \bm P=\bm B$，那么称 $\bm A$ 和 $\bm B$ 合同，记为 $\bm A\simeq \bm B$。

6.1 二次型的标准型

只含平方项的二次型称为标准形式的二次型，即标准型，它的矩阵是对角矩阵。我们的目的是通过可逆线性变换，将二次型 $f(x)$ 化为标准型 $g(y)$。

二次型能用可逆线性变换 $\bm x=\bm P \bm y$ 化为标准型的充要条件是 $\exist \bm P,\ie \bm P^\top \bm A\bm P=\bm B=\operatorname{diag}(b_1,\cdots,b_n)$，此时 $\bm x^\top \bm A\bm x=\bm y^\top \bm B\bm y$。相当于要通过合同变换将对称矩阵化为对角矩阵。

因此想要用将实二次型化为标准型，由于实对称矩阵相似对角化时一定可以搞一个正交矩阵，它的转置等于它的逆，因此直接将其相似对角化即可。其相似因子是一个正交矩阵，即为 $\bm P$。

事实上，对于任意二次型都可以化标准型，因此，任意对称矩阵必合同于某一对角矩阵。

我们也可以使用配方法来化标准型，这种方法并没有使用线性代数的知识。但如果交叉项较多，计算量可能很大。因此接下来我们介绍另一种方法。

对于一个初等矩阵 $\bm P$，搞一个 $\bm P^\top \bm A\bm P$，即初等合同变换。初等合同变换相当于是先进行初等行变换，再进行相对应的初等列变换。由于任意对称矩阵必然合同于对角矩阵，因此对 $\bm A$ 进行若干次初等合同变换便可完成化标准型。想要求出这个过程中的合同因子，只需要构造 $2n\times n$ 的矩阵 $\begin{bmatrix}\bm A\\ \bm E\end{bmatrix}$，在进行行变换时只对前 $n$ 行进行操作，进行列变换时 $\bm E$ 随之进行，最终就得到了 $\begin{bmatrix}\bm B\\ \bm P\end{bmatrix}$。

6.2 二次型的规范型

通过合同变换，可知二次型的标准型是无穷多的。但是对于实二次型来说，我们可以通过倍法变换和换法变换，得到一个形如 $\begin{bmatrix}\bm E & & \\ & -\bm E & \\ & & \bm O \end{bmatrix}$ 的标准型。这个东西被称为规范型。

其中 $1$ 的个数 $p$ 称为正惯性指数，$-1$ 的个数 $q$ 称为负惯性指数，$p-q$ 称为符号差。实二次型的规范型是唯一的（惯性定理）。

对于复二次型，则必然可以化为 $\begin{bmatrix}\bm E & \\ & \bm O \end{bmatrix}$，也是唯一的。

6.3 实二次型的分类

$\forall \bm x \ne \bm 0$，实二次型 $f$ 满足 $f(x) > 0$ 是正定二次型，满足 $f(x)<0$ 是负定二次型，$f(x)\ge 0$ 是半正定二次型，$f(x)\le 0$ 是半负定二次型，有正有负则是不定二次型。此时 $\bm A$ 称为正定矩阵等。

可逆线性变换不改变实二次型的正定性。

只需要研究正定二次型，其余的情况是对称的。正定的充要条件是符号差为 $n$（半正定负惯性指数为 $0$），也可以说是 $\bm A$ 的特征根全部为正（半正定全部不为负）。

$k$ 阶子式强制要求选择前 $k$ 行和前 $k$ 列得到 $k$ 阶顺序主子式，正定的另一个充要条件是所有的顺序主子式为正（半正定全部不为负）。

7. 线性空间

是不是应该先学抽象代数来着。

不管了，我先把教材朗读完。

7.1 线性空间

设 $V$ 是一个非空集合，$F$ 是一个数域，$(V,+)$ 有幺元且满足交换律，还能定义一个 $F$ 和 $V$ 之间的数乘运算，那么 $V$ 是在 $F$ 上的一个线性空间。

若 $V_1$ 是 $V$ 的非空子集，且依然满足构成线性空间的性质，那么 $V_1$ 是 $V$ 的线性子空间。$V$ 的幺元构成的集合称为零子空间，和 $V$ 本身构成了平凡子空间。

定义 $V_1+V_2=\{\bm\alpha_1+\bm\alpha_2|,\bm\alpha_1\in V_1,\bm\alpha_2\in V_2\}$，$V_1\cap V_2$ 称为交空间，$V_1+V_2$ 称为和空间，显然它们都是子空间。

线性空间基底的元素个数称为维度，记作 $\dim V$。

7.2 坐标与坐标变换

当已知一组基底时，我们可以确定一个向量的坐标，是一个列向量 \hat\bm\alpha。向量组线性相关的充要条件是它们的坐标线性相关。

设 $\epsilon_i,\epsilon'_i$ 是 $V$ 下的两组基底，有 $(\epsilon'_1,\cdots,\epsilon'_n)=(\epsilon_1,\cdots,\epsilon_n)\bm A$，$\bm A$ 称为过渡矩阵（变换矩阵），矩阵 $\bm A$ 是唯一且可逆的。换基底时的坐标变换，也不难得到 $\begin{bmatrix}x_1\\ \vdots \\ x_n\end{bmatrix}=\bm A\begin{bmatrix}x'_1\\ \vdots \\ x'_n\end{bmatrix}$。

7.3 变换

$\bm\alpha\rightarrow \bm\alpha'$，$\bm\alpha'$ 为像，$\bm\alpha$ 为一个原像（像源）。线性变换满足线性性质。

如果我们知道了线性变换对基的作用，就可以知道线性变换所有向量的作用。对于线性变换 $\sigma$，我们有 $(\sigma(\epsilon_1),\cdots,\sigma(\epsilon_n))=(\epsilon_1,\cdots,\epsilon_n)\bm A$。也就是说，$\bm A$ 的第 $i$ 列就是 $\sigma(\epsilon_i)$ 在基底 $\epsilon$ 下的坐标。不难得知 $\bm A$ 是唯一的。该矩阵可以描述线性变换，比如说 $\bm\alpha$ 的坐标为 $\bm x$，$\sigma(\bm\alpha)$ 的坐标则为 $\bm A\bm x$。

线性变换的加乘法可以视作矩阵的加乘法，逆变换也为逆矩阵。

同一变换在不同基底下，矩阵是相似的，相似因子恰为基底的过渡矩阵。

$\bm A$ 的特征根称为 $\sigma$ 的特征根，假定矩阵对应的特征向量为 $\bm x$，则 $\sigma$ 的特征向量为 $\bm\alpha=\displaystyle\sum_{i=1}^n x_i\epsilon_i$。

8. 试卷选做

8.1 吉林大学 线性代数A 2024 期末

还挺简单。