1. Introduction (引言：把线性映射”翻译”成数字的矩形)

在经历了 lecture 1 到 lecture 6 的铺垫后，我们了解了域、向量空间、维数、线性映射的基础知识。特别是 lecture 5 的线性映射引理 (定理 3.4) 告诉我们一个决定性的事实：

线性映射 $T$ 由它在一组基上的作用 $Tv_1, \dots, Tv_n$ 完全且唯一地决定。

这意味着：一个看似”无限”的对象（定义在整个空间上的函数），在基固定之后，实际上只携带有限多条信息（$n$ 个像向量，每个含 $m$ 个坐标，共 $mn$ 个标量）。于是一个工程性问题自然产生：

如何高效、无歧义地记录这 $mn$ 个数，并让记录本身可以计算？

考虑一个有限维空间上的线性映射：

$$T \in \mathcal{L}(V,W)$$

我们假设：

$$v_1,v_2,\dots,v_n\ \text{is a basis of V}$$ $$w_1,w_2,\dots,w_m\ \text{is a basis of W}$$

那么每个 $Tv_k \in W$ 都能用 $W$ 的基唯一展开：

$$\begin{aligned} Tv_1 &= a_{1,1}w_1 + a_{2,1}w_2 + \cdots + a_{m,1}w_m\\ Tv_2 &= a_{1,2}w_1 + a_{2,2}w_2 + \cdots + a_{m,2}w_m\\ &\ \ \vdots\\ Tv_n &= a_{1,n}w_1 + a_{2,n}w_2 + \cdots + a_{m,n}w_m \end{aligned}$$

（注意指标约定：第二个指标 $k$ 标记”第几个输入基向量 $v_k$“，第一个指标 $j$ 标记”在 $w$ 展开中的第几行”。这个约定的好处马上会显现：第 $k$ 列恰好是 $Tv_k$ 的坐标。）

把系数排成矩形阵列，上式可以紧凑地写成：

$$T(v_1,\ldots,v_n) = (w_1,\ldots,w_m) \begin{pmatrix} a_{1,1} & a_{1,2} & \cdots & a_{1,n}\\ a_{2,1} & a_{2,2} & \cdots & a_{2,n}\\ \vdots & \vdots & & \vdots\\ a_{m,1} & a_{m,2} & \cdots & a_{m,n} \end{pmatrix}$$

而我们知道，$\forall\ v \in V,\ v = x_1v_1 + \cdots + x_nv_n = (v_1,\ldots,v_n)\begin{pmatrix}x_1\\x_2\\\vdots\\x_n\end{pmatrix}$，所以：

$$Tv = T(v_1,\ldots,v_n)\begin{pmatrix}x_1\\x_2\\\vdots\\x_n\end{pmatrix} = (w_1,\ldots,w_m) \begin{pmatrix} a_{1,1} & a_{1,2} & \cdots & a_{1,n}\\ a_{2,1} & a_{2,2} & \cdots & a_{2,n}\\ \vdots & \vdots & & \vdots\\ a_{m,1} & a_{m,2} & \cdots & a_{m,n} \end{pmatrix} \begin{pmatrix}x_1\\x_2\\\vdots\\x_n\end{pmatrix}$$

一个很自然的想法就产生了： 我们为何不确定两组基 $(v_1, \ldots, v_n),\ (w_1, \ldots, w_m)$，然后使用

$$x = \begin{pmatrix}x_1\\x_2\\\vdots\\x_n\end{pmatrix} \quad\text{和}\quad A = \begin{pmatrix} a_{1,1} & a_{1,2} & \cdots & a_{1,n}\\ a_{2,1} & a_{2,2} & \cdots & a_{2,n}\\ \vdots & \vdots & & \vdots\\ a_{m,1} & a_{m,2} & \cdots & a_{m,n} \end{pmatrix}$$

来描述一个线性映射 $\mathcal{L}(V,W)$ 的作用？即建立一本翻译词典：

$$\text{向量 } v \longleftrightarrow \text{坐标列 } x,\qquad \text{映射 } T \longleftrightarrow \text{矩阵 } A,\qquad \text{作用 } Tv \longleftrightarrow \text{乘法 } Ax.$$

但故事还有第二幕，这才是本讲真正的因果核心。 lecture 5 中我们知道映射之间有加法、数乘与复合（乘积）。翻译到矩阵侧后，我们要求词典保持这些运算：

$$\mathcal{M}(S+T) = \mathcal{M}(S)+\mathcal{M}(T),\qquad \mathcal{M}(\lambda T) = \lambda \mathcal{M}(T),\qquad \mathcal{M}(ST) = \mathcal{M}(S)\mathcal{M}(T).$$

前两式迫使矩阵加法与数乘逐元素定义；而第三式——复合的翻译——将强制出矩阵乘法那个看似奇怪的”行乘列求和”定义。换言之：

矩阵乘法不是凭空发明的计算规则，而是”让复合在坐标世界里仍然正确”这一唯一需求推导出来的必然结果。

本讲将完整重演这一推导。

2. Representing a Linear Map by a Matrix (用矩阵表示线性映射)

2.1 从”基决定映射”到”矩阵记录映射”

因果链条只有三环：

1. 线性映射引理 (定理 3.4)：$T$ 由 $Tv_1,\dots,Tv_n$ 唯一决定（唯一性），且基上的像可以任意指定（存在性）。
2. 基展开唯一性：每个 $Tv_k \in W$ 有唯一坐标 $(a_{1,k},\dots,a_{m,k})$。
3. 记录格式：把这 $n$ 组坐标排成矩形——第 $k$ 列放 $Tv_k$ 的坐标。

于是”列对应定义域的基向量，行对应值域的基向量”。这个排法不是随意的：它保证了稍后 $Ax$ 恰好等于 $Tv$ 的坐标（见 2.5 的列组合视角）。

2.2 Definition: Matrix (3.29)

Definition 3.29 (Matrix) 设 $m, n$ 为非负整数。一个 $m$-by-$n$ 矩阵 $A$ 是由 $F$ 中元素排成的、具有 $m$ 行 $n$ 列的矩形阵列：

$$A = \begin{pmatrix} A_{1,1} & \cdots & A_{1,n}\\ \vdots & & \vdots\\ A_{m,1} & \cdots & A_{m,n}\end{pmatrix}.$$

记号 $A_{j,k}$ 表示 $A$ 的第 $j$ 行、第 $k$ 列的元素（第一指标 = 行号，第二指标 = 列号）。

2.3 Definition: Matrix of a Linear Map (3.31)

Definition 3.31 (Matrix of a linear map, $\mathcal{M}(T)$) 设 $T \in \mathcal{L}(V, W)$，$v_1,\dots,v_n$ 是 $V$ 的基，$w_1,\dots,w_m$ 是 $W$ 的基。$T$ 关于这两组基的矩阵是 $m$-by-$n$ 矩阵 $\mathcal{M}(T)$，其元素 $A_{j,k}$ 由下式定义：

$$Tv_k = A_{1,k}w_1 + \cdots + A_{m,k}w_m.$$

若基在上下文中不明确，则使用记号 $\mathcal{M}(T,(v_1,\dots,v_n),(w_1,\dots,w_m))$。

把 $v_1,\dots,v_n$ 写在矩阵顶行，$w_1,\dots,w_m$ 写在左列；

$$\begin{matrix} & v_1 & v_2 & \cdots & v_n\\ w_1 & A_{1,1} & A_{1,2} & \cdots & A_{1,n}\\ w_2 & A_{2,1} & A_{2,2} & \cdots & A_{2,n}\\ \vdots & \vdots & \vdots & & \vdots\\ w_m & A_{m,1} & A_{m,2} & \cdots & A_{m,n} \end{matrix}$$

则第 $k$ 列就是展开 $Tv_k$ 所需的系数：

$$T v_k = \sum_{j=1}^{m} A_{j,k} w_j.$$

$\mathcal{M}(T)$ 同时依赖 $T$ 和两组基。换基则矩阵变（基变换公式将在 3D 给出）。因此”矩阵 可以视作 映射在特定坐标系下的照片”，照片（矩阵）会变，对象（映射法则）没变。

标准基约定：对 $T: F^n \to F^m$，除非另有说明，一律使用标准基；对 $\mathcal{P}_m(F)$ 使用标准基 $1, x, \dots, x^m$。

2.4 Examples (3.32, 3.33)

Example 3.32 ($F^2 \to F^3$)：
设 $T(x, y) = (x+3y,\ 2x+5y,\ 7x+9y)$。 因为 $T(1,0) = (1,2,7)$，$T(0,1) = (3,5,9)$，关于标准基的矩阵为 3-by-2 矩阵可以被给出：

$$\mathcal{M}(T) = \begin{pmatrix} 1 & 3\\ 2 & 5\\ 7 & 9 \end{pmatrix}.$$

第 $k$ 列 = $T e_k$ 在标准基下的坐标。

Example 3.33 (微分 $\mathcal{P}_3(\mathbb{R}) \to \mathcal{P}_2(\mathbb{R})$)：
$Dp = p'$。由 $(x^n)' = nx^{n-1}$： $D(1)=0,\ D(x)=1,\ D(x^2)=2x,\ D(x^3)=3x^2$，故

$$\mathcal{M}(D) = \begin{pmatrix} 0 & 1 & 0 & 0\\ 0 & 0 & 2 & 0\\ 0 & 0 & 0 & 3 \end{pmatrix}.$$

这一理解相当重要——抽象的微分被完全编码为一个纯代数对象——这正是矩阵表示的泛用性。

2.5 矩阵乘向量：$Tv$ 的坐标 = $\mathcal{M}(T)\mathcal{M}(v)$

Definition 3.73 (Matrix of a vector)：
$v = b_1v_1+\cdots+b_nv_n$ 关于基 $v_1,\dots,v_n$ 的矩阵是列向量 $\mathcal{M}(v) = (b_1,\dots,b_n)^t$。

Example 3.74 (Matrix of a vector)：
多项式 $2 - 7x + 5x^3 + x^4$ 关于 $\mathcal{P}_4(\mathbb{R})$ 标准基的矩阵是 $(2,-7,0,5,1)^t$（注意 $x^2$ 的系数为 $0$——坐标列必须写满所有基向量的系数，缺项要补零）；关于 $\mathbf{F}^n$ 的标准基，$x = (x_1,\dots,x_n)$ 的矩阵就是把坐标竖起来。完整讨论见 lecture 8 的 4.1 节。

Theorem 3.76 (Linear maps act like matrix multiplication)：
$\mathcal{M}(Tv) = \mathcal{M}(T)\mathcal{M}(v)$。

这条定理回答了”为什么矩阵乘向量要那样定义”。由 3.50（列组合视角），

$$A b = b_1 A_{\cdot,1} + \cdots + b_n A_{\cdot,n},$$

即 $Ab$ 是 $A$ 的列以 $b$ 的分量为系数的线性组合；而 $A_{\cdot,k} = \mathcal{M}(Tv_k)$，故

$$\mathcal{M}(T)\mathcal{M}(v) = b_1\mathcal{M}(Tv_1)+\cdots+b_n\mathcal{M}(Tv_n) = \mathcal{M}(b_1Tv_1+\cdots+b_nTv_n) = \mathcal{M}(Tv).$$

换言之，“矩阵乘向量”的定义正是为了还原线性性：把 $v$ 拆成基的组合，$T$ 逐项作用后再组合。

3. Addition and Scalar Multiplication of Matrices (矩阵的加法与数乘)

3.1 运算从映射侧”定义”出来

问题：$\mathcal{M}(S+T)$ 应该等于什么？

此刻这个问题还没有意义——因为我们尚未定义矩阵的加法。

聪明的同学已经想到了，既然没有定义，那我们就现在定义呗——于是：

在此我们引入一个很能培养数学研究思维的策略：强制要求翻译词典（矩阵）保持运算，即强制 $\mathcal{M}(S+T) = \mathcal{M}(S)+\mathcal{M}(T)$ 成立，由此反向定义矩阵加法，再验证它良定且符合直觉。

3.2 Definitions & Propositions (3.34–3.38)

Definition 3.34 (Matrix addition)：
同尺寸矩阵之和 = 对应元素相加：

$$\begin{pmatrix} A_{1,1} & \cdots & A_{1,n}\\ \vdots & & \vdots\\ A_{m,1} & \cdots & A_{m,n}\end{pmatrix} + \begin{pmatrix} C_{1,1} & \cdots & C_{1,n}\\ \vdots & & \vdots\\ C_{m,1} & \cdots & C_{m,n}\end{pmatrix} = \begin{pmatrix} A_{1,1}+C_{1,1} & \cdots & A_{1,n}+C_{1,n}\\ \vdots & & \vdots\\ A_{m,1}+C_{m,1} & \cdots & A_{m,n}+C_{m,n}\end{pmatrix}.$$

为什么逐元素相加是”可行的”？ 因为对每个基向量 $v_k$：

$$(S+T)v_k = Sv_k + Tv_k,$$

而两个向量相加 = 坐标逐位相加。列逐位相加、对所有列同时做 = 对应元素相加。

Proposition 3.35：
设 $S, T \in \mathcal{L}(V, W)$（三映射使用相同基），则 $\mathcal{M}(S+T) = \mathcal{M}(S)+\mathcal{M}(T)$。

Definition 3.36 (Scalar multiplication)：

$$\lambda A = 每个元素乘 \lambda$$

Proposition 3.38：

$$\mathcal{M}(\lambda T) = \lambda \mathcal{M}(T)$$

3.3 矩阵空间 $\mathbf{F}^{m,n}$ 与维数 (3.39, 3.40)

Notation 3.39：$\mathbf{F}^{m,n}$ 表示所有 $m$-by-$n$ 矩阵构成的集合。

Theorem 3.40：$\mathbf{F}^{m,n}$ 在上述运算下是向量空间，且 $\dim \mathbf{F}^{m,n} = mn$。

定理 3.40 的向量空间性质很好说明：

• 首先，0矩阵一定在 $\mathbf{F}^{m,n}$ 中；
• 其次，任取 $A, B \in \mathbf{F}^{m,n}$，$A+B$ 根据定义，一定也会在 $\mathbf{F}^{m,n}$ 中，因为 $\mathbf{F}$ 是一个域，具有加法封闭性；
• 同理，任取 $A \in \mathbf{F}^{m,n}$，$\lambda \in \mathbf{F}$，根据定义 $\lambda A \in \mathbf{F}^{m,n}$，因为 $\mathbf{F}$ 是一个域，具有乘法封闭性。

定理 3.40 的维数也能很直观地得到：
任意的 m-by-n 矩阵都有 $mn$ 个元素，每个元素都独立的存在。因此 $\mathbf{F}^{m,n}$ 最直观的一个基便是——列表(list) $A_{i,j} = (\text{m-by-n} 矩阵，其中第\ i\ 行、第\ j\ 列的元素为1，其余为0)$，其中 $i$ 从 1 到 m，$j$ 从 1 到 n。
根据维数的定义（一个空间的维数就是它任意一个基的长度），这个基的长度 $mn$ 就是维数 $\dim \mathbf{F}^{m,n}$。

基是”只有一个元素为 1、其余全为 0”的矩阵，恰有 $mn$ 个。这与后续 3.72 的 $\dim \mathcal{L}(V,W) = (\dim V)(\dim W)$ 完全吻合——因为固定基后 $\mathcal{M}: \mathcal{L}(V,W) \to \mathbf{F}^{m,n}$ 是一个同构 (3.71)：映射空间与矩阵空间是”同一个空间的两个名字”。

4. Matrix Multiplication (矩阵乘法：被复合强制出来的定义)

4.1 问题与动机

设 $u_1,\dots,u_p$ 是 $U$ 的基，$v_1,\dots,v_n$ 是 $V$ 的基，$w_1,\dots,w_m$ 是 $W$ 的基；考虑 $T: U \to V$ 与 $S: V \to W$。复合 $ST$ 是从 $U$ 到 $W$ 的线性映射。问：

$$\mathcal{M}(ST) \stackrel{?}{=} \mathcal{M}(S)\mathcal{M}(T)$$

与之前探讨矩阵加法时一样，这个问题此刻没有意义，因为我们还没有定义两个矩阵的乘积。我们的做法仍然延续：

选择一个定义，迫使这个问题的答案为”是”。

4.2 推导：复合在坐标世界里长什么样

设 $\mathcal{M}(S) = A$（$m$-by-$n$），$\mathcal{M}(T) = C$（$n$-by-$p$）。对 $1 \le k \le p$，逐步展开 $(ST)u_k$：

$$\begin{aligned} (ST)u_k &= S\Big(\sum_{r=1}^{n} C_{r,k} v_r\Big) &&\text{（$T$ 的矩阵：第 $k$ 列是 $Tu_k$ 的坐标）}\\ &= \sum_{r=1}^{n} C_{r,k}\, S v_r &&\text{（$S$ 的线性性）}\\ &= \sum_{r=1}^{n} C_{r,k} \sum_{j=1}^{m} A_{j,r} w_j &&\text{（$S$ 的矩阵：第 $r$ 列是 $Sv_r$ 的坐标）}\\ &= \sum_{j=1}^{m} \Big(\sum_{r=1}^{n} A_{j,r} C_{r,k}\Big) w_j. &&\text{（交换求和次序）} \end{aligned}$$

于是 $\mathcal{M}(ST)$ 的第 $j$ 行、第 $k$ 列元素必须是 $\sum_{r=1}^{n} A_{j,r} C_{r,k}$。

4.3 Definition (3.41) 与尺寸匹配的因果

Definition 3.41 (Matrix multiplication)：
设 $A$ 是 $m$-by-$n$ 矩阵，$B$ 是 $n$-by-$p$ 矩阵。则 $AB$ 是 $m$-by-$p$ 矩阵，其第 $j$ 行第 $k$ 列元素为

$$(AB)_{j,k} = \sum_{r=1}^{n} A_{j,r} B_{r,k}.$$

即：取 $A$ 的第 $j$ 行与 $B$ 的第 $k$ 列，对应元素相乘后求和。

尺寸条件从何而来?：只有当 $A$ 的列数等于 $B$ 的行数（都是 $n$）时乘积才有定义。这不是人为限制，而是复合的翻译：$ST$ 存在当且仅当 $T$ 的值域空间 = $S$ 的定义域空间，即中间空间 $V$ 的维数 $n$ 必须同时是 $T$ 的”输出维数”与 $S$ 的”输入维数”。尺寸匹配 = 复合可行性。

Theorem 3.43：若 $T \in \mathcal{L}(U, V)$，$S \in \mathcal{L}(V, W)$，则 $\mathcal{M}(ST) = \mathcal{M}(S)\mathcal{M}(T)$。 （证明就是 4.2 的计算。）

Example 3.42：

$$\begin{pmatrix} 1 & 2\\ 3 & 4\\ 5 & 6 \end{pmatrix} \begin{pmatrix} 6 & 5 & 4 & 3\\ 2 & 1 & 0 & -1 \end{pmatrix} = \begin{pmatrix} 10 & 7 & 4 & 1\\ 26 & 19 & 12 & 5\\ 42 & 31 & 20 & 9 \end{pmatrix}.$$

尺寸核对：$3\times 2$ 乘 $2\times 4$ 得 $3\times 4$——正是 定义 3.41 中”列数 = 行数”的要求。

4.4 三种等价视角

Notation 3.44：$A_{j,\cdot}$ = 第 $j$ 行（1-by-$n$），$A_{\cdot,k}$ = 第 $k$ 列（$m$-by-1）。

视角	陈述	直觉
行乘列 (3.46)	$(AB)_{j,k} = A_{j,\cdot} B_{\cdot,k}$	逐个元素计算的标准流程
列 = 矩阵乘列 (3.48)	$(AB)_{\cdot,k} = A B_{\cdot,k}$	$AB$ 的第 $k$ 列 = $A$ 作用于 $B$ 的第 $k$ 列
列的线性组合 (3.50)	$Ab = b_1 A_{\cdot,1} + \cdots + b_n A_{\cdot,n}$	矩阵乘向量 = 把列按坐标组合

Example 3.49：

$$\begin{pmatrix} 1 & 2\\ 3 & 4\\ 5 & 6 \end{pmatrix}\begin{pmatrix} 5\\ 1 \end{pmatrix} = \begin{pmatrix} 7\\ 19\\ 31 \end{pmatrix} = 5\begin{pmatrix} 1\\ 3\\ 5 \end{pmatrix} + 1\begin{pmatrix} 2\\ 4\\ 6 \end{pmatrix}.$$

因果：第三视角正是 2.5 中 $\mathcal{M}(Tv) = \mathcal{M}(T)\mathcal{M}(v)$ 的坐标化身——“列是 $Tv_k$ 的照片，组合系数是 $v$ 的坐标”。

4.5 代数性质：不交换、但结合与分配

• 不交换：$AB \neq BA$ 一般成立。例如 $A = \begin{pmatrix}0&1\\0&0\end{pmatrix},\ B = \begin{pmatrix}0&0\\1&0\end{pmatrix}$ 时 $AB = \begin{pmatrix}1&0\\0&0\end{pmatrix} \neq \begin{pmatrix}0&0\\0&1\end{pmatrix} = BA$。
  这不是矩阵的缺陷，而是复合不交换（lecture 5 例 例子 3.9：$TD \neq DT$）在坐标世界里的忠实翻译。词典忠实，所以该缺陷（性质）也被忠实保留。
• 结合律、分配律：$(AB)C = A(BC)$，$A(B+C) = AB+AC$，$(D+E)F = DF+EF$（习题 3.C.11, 3.C.12）。
  这些律可以逐元素硬算来证明，但更高级的理解是——它们继承自线性映射复合的结合律与分配律 (3.8)。Emil Artin 的名言恰在此处：“It is my experience that proofs involving matrices can be shortened by 50% if one throws the matrices out.”（把矩阵扔掉，回到映射侧证明，再翻译回来。）

Example 3.C.12:
可以把矩阵“扔掉”，改用线性映射的复合来证明。关键事实是：

• 线性映射的乘法满足结合律：

  $$(S T)R=S(TR)$$

  见 定理 3.8。

• 矩阵乘法被定义成使得

  $$\mathcal M(ST)=\mathcal M(S)\mathcal M(T)$$

  见 定理 3.43。

设

$$A\in F^{m,n},\quad B\in F^{n,p},\quad C\in F^{p,q},$$

于是 $(AB)C$ 和 $A(BC)$ 都是 $m \times q$ 矩阵。 取有限维向量空间

$$X,\ U,\ V,\ W$$

使得

$$\dim X=q,\quad \dim U=p,\quad \dim V=n,\quad \dim W=m.$$

分别给它们选定基。根据线性映射引理 3.4，存在线性映射

$$R\in\mathcal L(X,U),\quad T\in\mathcal L(U,V),\quad S\in\mathcal L(V,W)$$

使得

$$\mathcal M(R)=C,\qquad \mathcal M(T)=B,\qquad \mathcal M(S)=A.$$

于是由 3.43，

$$\mathcal M(ST)=\mathcal M(S)\mathcal M(T)=AB.$$

所以

$$\mathcal M((ST)R)=\mathcal M(ST)\mathcal M(R)=(AB)C.$$

另一方面，

$$\mathcal M(TR)=\mathcal M(T)\mathcal M(R)=BC,$$

因此

$$\mathcal M(S(TR))=\mathcal M(S)\mathcal M(TR)=A(BC).$$

但是线性映射的复合满足结合律，所以

$$(ST)R=S(TR).$$

既然这两个线性映射相等，它们在相同基下的矩阵也相等，因此

$$(AB)C=A(BC).$$

这就证明了矩阵乘法的结合律。

5. Transpose (转置)

Definition 3.54 (Transpose, $A^t$)：
$A^t$ 是把 $A$ 的行与列互换得到的矩阵：若 $A$ 是 $m$-by-$n$，则 $A^t$ 是 $n$-by-$m$，且 $(A^t)_{k,j} = A_{j,k}$。

Example 3.55：若 $A = \begin{pmatrix} 5 & -7 & 3\\ 8 & -4 & 2 \end{pmatrix}$，则 $A^t = \begin{pmatrix} 5 & 8\\ -7 & -4\\ 3 & 2 \end{pmatrix}$。

性质：$(A+B)^t = A^t + B^t$，$(\lambda A)^t = \lambda A^t$，以及反序律 $(AC)^t = C^t A^t$（习题 3.C.14, 3.C.15）。
逻辑：反序律与复合/对偶的反序性同源（对照 3F 中 $(ST)' = T'S'$）：转置交换了”行（值域侧）“与”列（定义域侧）“的角色，因此复合的顺序必须颠倒。

Example 3.C.14：
要证明结合律的成立，我们可以直接套转置的定义与矩阵加法、矩阵标量乘法的定义。

设

$$A = (A_{j,k}) \in F^{m,n},\qquad B = (B_{j,k}) \in F^{m,n}.$$

转置的定义是

$$(A^t)_{k,j} = A_{j,k}.$$

于是

$$\begin{aligned} ((A+B)^t)_{k,j} &= (A+B)_{j,k} \\ &= A_{j,k} + B_{j,k} \\ &= (A^t)_{k,j} + (B^t)_{k,j} \\ &= (A^t + B^t)_{k,j}. \end{aligned}$$

因为对应的元素都相等，所以

$$(A+B)^t = A^t + B^t.$$

再设 $\lambda \in F$，有

$$\begin{aligned} ((\lambda A)^t)_{k,j} &= (\lambda A)_{j,k} \\ &= \lambda A_{j,k} \\ &= \lambda (A^t)_{k,j} \\ &= (\lambda A^t)_{k,j}. \end{aligned}$$

所以

$$(\lambda A)^t = \lambda A^t.$$

因此，函数 $A \mapsto A^t$ 保持了加法和标量乘法，是从 $F^{m,n}$ 到 $F^{n,m}$ 的线性映射。

在后续的章节（3F），我们也会解锁全新的证明思路：这个新思路和证明 3.C.12 时的思想类似：不要把矩阵当成一堆数，而是把矩阵看成某个线性映射的表示。 不过，对于转置来说，最自然的对应物是对偶映射。

6. Column Rank and Row Rank (矩阵的秩：列秩与行秩)

6.1 引入：一个矩阵”有多少维”？

前面五节里，矩阵是线性映射的照片。但矩阵本身也是一个可以独立研究的对象——它是一堆数字排成的矩形。于是一个自然的问题出现了：

一个 $m\times n$ 矩阵 $A$ “包含多少维的信息”？换句话说，它的列（或行）张成的空间有多大？

这个问题的重要性在本讲已经出现过两次，只是当时没有名字：

• 在 4.4 节的第三视角中我们知道，$Ab = b_1A_{\cdot,1} + \cdots + b_nA_{\cdot,n}$——矩阵乘向量的像，全部落在 $A$ 的列张成的空间里。所以”列张成的空间有多大”直接决定了”乘法 $x\mapsto Ax$ 的像有多大”。
• 在 习题 3.C.5 中我们要证”可选基使矩阵除前 $\dim\text{range }T$ 个对角元为 1 外全为 0”——那里的数字 $\dim\text{range }T$ 正是这个”信息量”。

因此需要给这个量一个名字。注意这里有两个看似不同的答案（数列的维数、数行的维数），本节的任务就是证明它们其实相等——这是一个相当不平凡的事实，也是 Axler 把”矩阵的秩”单列一小节的唯一理由。

6.2 Theorem: matrix multiplication as linear combinations of columns or rows (3.51)

定义 3.52 要数”列张成的空间”与”行张成的空间”的维数，而 定理 3.56 与 定理 3.57 的证明都要用到一个技术事实：乘积 $CR$ 的行与列分别来自 $C$ 的列与 $R$ 的行。我们把它单列出来（4.4 节的三个视角只谈了列，这里补上行的那一半）。

Theorem 3.51 (matrix multiplication as linear combinations of columns or rows)：
设 $C$ 是 $m$-by-$c$ 矩阵，$R$ 是 $c$-by-$n$ 矩阵。

• (a) 若 $k \in \{1,\dots,n\}$，则 $CR$ 的第 $k$ 列是 $C$ 的各列的线性组合，组合系数来自 $R$ 的第 $k$ 列。
• (b) 若 $j \in \{1,\dots,m\}$，则 $CR$ 的第 $j$ 行是 $R$ 的各行的线性组合，组合系数来自 $C$ 的第 $j$ 行。

证明：(a) 由 4.4 节表格的第二行（3.48："$(CR)_{\cdot,k} = CR_{\cdot,k}$"），$(CR)_{\cdot,k} = CR_{\cdot,k}$；再由表格的第三行（3.50："$Ab = b_1A_{\cdot,1}+\cdots+b_nA_{\cdot,n}$"）把 $CR_{\cdot,k}$ 展开成 $C$ 的各列的组合，系数就是 $R_{\cdot,k}$ 的分量。故 (a) 成立。

(b) 直接算。$R$ 的第 $i$ 行是 $1$-by-$n$ 矩阵 $R_{i,\cdot}$，$C$ 的第 $j$ 行是 $1$-by-$c$ 矩阵 $C_{j,\cdot}$。由矩阵乘法的定义，$CR$ 的第 $j$ 行第 $k$ 列元素是

$$(CR)_{j,k} = \sum_{i=1}^{c} C_{j,i} R_{i,k}.$$

而右端正是线性组合 $\sum_{i=1}^{c} C_{j,i}R_{i,\cdot}$ 的第 $k$ 个分量。对每个 $k = 1,\dots,n$ 成立，故

$$(CR)_{j,\cdot} = \sum_{i=1}^{c} C_{j,i}\,R_{i,\cdot},$$

即 $CR$ 的第 $j$ 行是 $R$ 的各行的线性组合，系数是 $C_{j,1},\dots,C_{j,c}$。$\blacksquare$

为什么这一条是下一节的关键？ 请把 (b) 记住成一句话：$CR$ 的每一行都住在”$R$ 的各行所张成的空间”里，而这个空间只由 $R$ 的行数 $c$ 限制。于是不管 $m$ 有多大（$A$ 有多少行），$CR$ 的行秩都不会超过 $c$——这就是”行秩 $\le$ 列秩”的全部秘密。

6.2 Definition: column rank, row rank (3.52)

Definition 3.52 (column rank, row rank)：
设 $A$ 是元素在 $\mathbf{F}$ 中的 $m$-by-$n$ 矩阵。

• $A$ 的列秩 (column rank) 是 $A$ 的各列在 $\mathbf{F}^{m,1}$ 中张成的空间的维数。
• $A$ 的行秩 (row rank) 是 $A$ 的各行在 $\mathbf{F}^{1,n}$ 中张成的空间的维数。

为什么两个秩都不超过 $\min\{m,n\}$？ 因为 $A$ 有 $n$ 列，所以列秩 $\le n$；而这些列都住在 $\mathbf{F}^{m,1}$ 里，$\dim\mathbf{F}^{m,1} = m$，所以列秩 $\le m$。合起来列秩 $\le \min\{m,n\}$。行秩同理（$A$ 有 $m$ 行，每行住在 $\mathbf{F}^{1,n}$ 中）。这个上界会在 6.4 节被用到。

记号说明：$A_{\cdot,k}$ 表示第 $k$ 列（$m$-by-1），$A_{j,\cdot}$ 表示第 $j$ 行（1-by-$n$），见 Notation 3.44。注意两者住在不同的空间里（$\mathbf{F}^{m,1}$ 与 $\mathbf{F}^{1,n}$），所以”列秩”与”行秩”的定义不能互相替代。

6.3 Example: column rank and row rank of a 2-by-4 matrix (3.53)

Example 3.53：设

$$A = \begin{pmatrix} 4 & 7 & 1 & 8\\ 3 & 5 & 2 & 9 \end{pmatrix}.$$

列秩：它是

$$\text{span}\left(\begin{pmatrix} 4\\ 3 \end{pmatrix},\ \begin{pmatrix} 7\\ 5 \end{pmatrix},\ \begin{pmatrix} 1\\ 2 \end{pmatrix},\ \begin{pmatrix} 8\\ 9 \end{pmatrix}\right)$$

在 $\mathbf{F}^{2,1}$ 中的维数。列表中的前两个向量互不成比例，故这个长度 4 的列表张成的空间维数至少是 2。又因为它住在 $\mathbf{F}^{2,1}$ 里，维数至多是 2。因此它恰好是 2，即 $A$ 的列秩为 $2$。

行秩：它是

$$\text{span}\Big(\begin{pmatrix} 4 & 7 & 1 & 8 \end{pmatrix},\ \begin{pmatrix} 3 & 5 & 2 & 9 \end{pmatrix}\Big)$$

在 $\mathbf{F}^{1,4}$ 中的维数。这两个向量互不成比例，故这个长度 2 的列表的张成空间维数为 $2$，即 $A$ 的行秩为 $2$。

读法：这个例子里两个秩都等于 $2$，但**“恰好相等”这件事完全看不出来**——列有 4 个、行只有 2 个，列住在 2 维空间里、行住在 4 维空间里，两个定义看上去毫无关系。这就是为什么需要一条定理。

6.4 Theorem: column–row factorization (3.56)

要证明”列秩 = 行秩”，Axler 用的关键工具是一个分解：把 $A$ 写成”瘦长矩阵”乘”扁平矩阵”。

Theorem 3.56 (column–row factorization)：
设 $A$ 是元素在 $\mathbf{F}$ 中的 $m$-by-$n$ 矩阵，且列秩为 $c \ge 1$。则存在 $m$-by-$c$ 矩阵 $C$ 与 $c$-by-$n$ 矩阵 $R$（元素都在 $\mathbf{F}$ 中）使得

$$A = CR.$$

证明：$A$ 的每一列都是 $m$-by-1 矩阵。由 定理 2.30，列列表 $A_{\cdot,1},\dots,A_{\cdot,n}$ 可以缩减为”各列的张成空间”的一组基。由列秩的定义，这组基的长度是 $c$。把这 $c$ 个基列并排放在一起，得到一个 $m$-by-$c$ 矩阵，记作 $C$。

现在看任意一列 $A_{\cdot,k}$（$k = 1,\dots,n$）。由上一段的构造，$A$ 的每一列都是 $C$ 的各列的线性组合（因为 $C$ 的列张成了所有列所在的空间）。把这个线性组合的系数竖起来，作为 $c$-by-$n$ 矩阵 $R$ 的第 $k$ 列。则由 定理 3.51(a)（”$CR$ 的第 $k$ 列 = $C$ 乘 $R$ 的第 $k$ 列”），

$$(CR)_{\cdot,k} = C R_{\cdot,k} = A_{\cdot,k}.$$

对每个 $k$ 成立，故 $A = CR$。$\blacksquare$

这个分解在说什么？ $A = CR$ 的意思是：$A$ 的”全部内容”可以分解为”它的列空间的一组基”（$C$）与”各列如何用这组基表示”（$R$）两部分。

• $C$ 是 $m\times c$：$c$ 就是列秩（“列空间有几维”）；
• $R$ 是 $c\times n$：它记录的是坐标（“每一列在这组基下的系数”）。

因此 $A = CR$ 又把 $A$ 的”信息量”暴露了一次：一个 $m\times n$ 矩阵被压缩成了 $c$ 个基列加上 $c n$ 个系数。

例（承 3.53）：对 $A = \begin{pmatrix} 4 & 7 & 1 & 8\\ 3 & 5 & 2 & 9 \end{pmatrix}$，列秩 $c = 2$，取前两列为基列，得

$$C = \begin{pmatrix} 4 & 7\\ 3 & 5 \end{pmatrix}.$$

再把第 3、4 列用 $C$ 的两列表示出来（解 $C R_{\cdot,k} = A_{\cdot,k}$）。设 $A_{\cdot,3} = x_1\begin{pmatrix} 4\\ 3 \end{pmatrix} + x_2\begin{pmatrix} 7\\ 5 \end{pmatrix}$，即

$$\begin{cases} 4x_1 + 7x_2 = 1,\\ 3x_1 + 5x_2 = 2,\end{cases} \qquad\Longrightarrow\qquad x_1 = 9,\ x_2 = -5,$$

故 $A_{\cdot,3} = 9\begin{pmatrix} 4\\ 3 \end{pmatrix} - 5\begin{pmatrix} 7\\ 5 \end{pmatrix}$。同理 $A_{\cdot,4} = 23\begin{pmatrix} 4\\ 3 \end{pmatrix} - 12\begin{pmatrix} 7\\ 5 \end{pmatrix}$。于是

$$A = \underbrace{\begin{pmatrix} 4 & 7\\ 3 & 5 \end{pmatrix}}_{C}\underbrace{\begin{pmatrix} 1 & 0 & 9 & 23\\ 0 & 1 & -5 & -12 \end{pmatrix}}_{R}.$$

（$R$ 的前两列是 $\begin{pmatrix}1\\0\end{pmatrix},\begin{pmatrix}0\\1\end{pmatrix}$，因为基列当然用自己表示自己。核对：$CR$ 的第 3 列是 $9\cdot(4,3)^t + (-5)\cdot(7,5)^t = (1,2)^t$，正是 $A$ 的第 3 列 ✓。）

6.5 Theorem: column rank equals row rank (3.57)

Theorem 3.57 (column rank equals row rank)：
设 $A \in \mathbf{F}^{m,n}$。则 $A$ 的列秩等于行秩。

证明：分三步。

第一步：$c = 0$ 的退化情形。 若列秩 $c = 0$，则各列张成的空间是零空间，故每一列都是零列，从而 $A = 0$。此时每一行也都是零行，行秩也为 $0$。故结论成立。以下设 $c \ge 1$。

第二步：行秩 $\le$ 列秩。 由 定理 3.56，取列–行分解

$$A = CR,$$

其中 $C$ 是 $m$-by-$c$、$R$ 是 $c$-by-$n$。现在看 $A$ 的行。由 定理 3.51(b)（”$CR$ 的第 $j$ 行 = $C$ 的第 $j$ 行乘 $R$”），$A$ 的每一行都是 $R$ 的各行的线性组合：

$$A_{j,\cdot} = C_{j,\cdot}\,R = C_{j,1}R_{1,\cdot} + C_{j,2}R_{2,\cdot} + \cdots + C_{j,c}R_{c,\cdot}.$$

而 $R$ 只有 $c$ 行，所以”$A$ 的各行”这个列表的全部元素都住在 $R$ 的 $c$ 行所张成的空间里，该空间维数 $\le c$。由行秩的定义（它是 $A$ 各行张成空间的维数），

$$\text{行秩}(A) \le c = \text{列秩}(A).$$

第三步：反向不等式。把第二步用到 $A^t$ 上。 先注意转置与两个秩的关系：转置把列变成行（定义 3.54），因此

$$\text{列秩}(A^t) = \text{行秩}(A), \qquad \text{行秩}(A^t) = \text{列秩}(A).$$

（第一式：$A^t$ 的各列正是 $A$ 的各行的转置，而”转置”是 $\mathbf{F}^{1,n}$ 到 $\mathbf{F}^{n,1}$ 的同构，保维数。）于是把第二步的结论（对任意矩阵成立）应用于 $A^t$，得

$$\text{行秩}(A^t) \le \text{列秩}(A^t).$$

代入上面两个等式：

$$\text{列秩}(A) \le \text{行秩}(A).$$

收尾：第二步给出 $\text{行秩}(A) \le \text{列秩}(A)$，第三步给出 $\text{列秩}(A) \le \text{行秩}(A)$，故

$$\text{列秩}(A) = \text{行秩}(A). \qquad\blacksquare$$

这个证明的巧妙之处：第二步只证明了一个方向的不等式（行秩 $\le$ 列秩），然后把同一个论证用到转置上，就免费得到了反方向。这正是本讲第 5 节反复出现的”转置 = 行列互换”思想的又一次应用——如果一条关于行与列的命题是”自对偶”的，那么只需证明一半。这与 lecture-8 中”单射与满射在维数配平时互相蕴含”是同一类省力技巧。

6.6 Definition: rank (3.58)

既然列秩恒等于行秩，就没有必要保留两个名字。

Definition 3.58 (rank)：
矩阵 $A \in \mathbf{F}^{m,n}$ 的秩 (rank) 是 $A$ 的列秩。

记号：本课程不引入专门的符号，直接写 $\text{rank } A$ 或”$A$ 的秩”。（有些教材写 $\operatorname{rk} A$ 或 $\rho(A)$。）

由 定理 3.57，”$A$ 的秩”也可以等价地说成”$A$ 的行秩”——选择哪一个作为定义都可以，Axler 选了列秩，因为它与线性映射的值域直接挂钩（见下一节）。

6.7 与映射侧的接口：$\text{rank } \mathcal{M}(T) = \dim \text{range } T$

本讲的主题是”矩阵是线性映射的照片”。那么矩阵的秩在映射侧对应什么？

答案是 lecture 8 的 定理 3.78：

$$\dim \text{range } T = \mathcal{M}(T) \text{ 的列秩} = \text{rank } \mathcal{M}(T).$$

也就是说：矩阵的秩就是它所代表的线性映射的”值域维数”。

为什么这一定理”应该”成立？ 本讲 2.5 节已经给出了全部原料：

1. $\mathcal{M}(T)$ 的第 $k$ 列是 $\mathcal{M}(Tv_k)$（即 $3.75$ 的内容）；
2. 而 $\text{range } T = \text{span}(Tv_1,\dots,Tv_n)$（习题 3.B.10）；
3. 换基同构 $\mathcal{M}$ 保维数，所以”$\text{span}(Tv_k)$ 的维数”等于”$\text{span}(\mathcal{M}(Tv_k))$ 的维数”，而后者正是列秩。

于是三条一拼，”$\dim\text{range } T =$ 列秩”就出来了。这就是为什么 $3.57$ 这个纯粹关于”数字矩形”的定理对本课程很重要：它让”值域维数”这个映射侧的几何量，可以用矩阵侧的行或列随便哪一种方式去算——而这两种算法在实际计算中难度往往相差很多（数行往往比数列容易，或者反过来）。

顺带一提：$3.78$ 也解释了为什么秩与基的选择无关——因为 $\text{range } T$ 与基的选择无关，而列秩等于 $\dim\text{range } T$。同一个矩阵在不同基下的矩阵长得不同，但它们的秩相同（这一事实在 lecture 8 的 3.78 处会正式说明）。

6.8 关于秩的总结

关心的问题	精确形式	编号
”列张成的空间有多大”	列秩 = $\dim\text{span}(A_{\cdot,1},\dots,A_{\cdot,n})$	3.52
”行张成的空间有多大”	行秩 = $\dim\text{span}(A_{1,\cdot},\dots,A_{m,\cdot})$	3.52
”秩最大能是多少”	两者都 $\le \min\{m,n\}$	3.52 的讨论
”把矩阵按列空间压缩”	$A = CR$，$C$ 的列是列空间的基	3.56
”列秩与行秩什么关系”	相等	3.57
”那就统一叫秩”	$\text{rank } A$ = 列秩	3.58
”秩在映射侧是什么”	$\text{rank } \mathcal{M}(T) = \dim \text{range } T$	定理 3.78
”转置对秩的影响”	转置交换行与列，故 $\text{rank } A^t = \text{rank } A$	3.57 的证明

列秩与行秩是两个定义上毫不相关的数（一个数 $\mathbf{F}^{m,1}$ 中的维数，一个数 $\mathbf{F}^{1,n}$ 中的维数），但它们恒相等（定理 3.57）。这条定理的证明靠列–行分解 $A = CR$（定理 3.56）：$C$ 把”列空间有几维”记在它自己的列数上，$R$ 则把”行从哪来”限制在 $c$ 行之内。而这条看似纯矩阵的定理，最终让”矩阵的秩”与”线性映射的值域维数”接上了头（定理 3.78）。

$\text{rank}$ 是矩阵的”内在维数”——它既可以从列数出来，也可以从行数出来，还可以从对应的线性映射的值域数出来，三个答案永远一致。

7. 本讲概念映射 (Summary)

映射侧（几何/代数对象）	矩阵侧（坐标世界）	桥梁定理
$T$ 由 $Tv_1,\dots,Tv_n$ 决定	$\mathcal{M}(T)$ 的第 $k$ 列 = $Tv_k$ 的坐标	定理 3.4 + 定义 3.31
向量 $v = \sum b_k v_k$	列向量 $\mathcal{M}(v)$	定义 3.73 + 例子 3.74
作用 $Tv$	乘法 $\mathcal{M}(T)\mathcal{M}(v)$	定理 3.76
和 $S+T$、数乘 $\lambda T$	$\mathcal{M}(S)+\mathcal{M}(T)$、$\lambda\mathcal{M}(T)$	命题 3.35, 命题 3.38
复合 $ST$	乘积 $\mathcal{M}(S)\mathcal{M}(T)$	定理 3.43
空间 $\mathcal{L}(V,W)$	空间 $\mathbf{F}^{m,n}$，$\dim = mn$	定理 3.40, 定义 3.71
复合不交换	矩阵乘法不交换	例子 3.9 ↔ 3.C.10
值域维数 $\dim \text{range } T$	矩阵的秩 $\text{rank } \mathcal{M}(T)$	3.52 → 3.57 → 定理 3.78

矩阵是线性映射在基下的坐标照片；矩阵的一切运算规则（逐元素加法、行乘列乘法、反序转置）都不是发明，而是”让照片之间的运算忠实反映映射之间的运算”这一要求唯一确定的翻译规则。而秩则是这张照片所携带的”内在维数”——它数行、数列、数映射的值域，三个答案永远一致（定理 3.57 与 定理 3.78）。

8. Questions to Carry Forward (下节课前瞻)

• 可逆矩阵与可逆线性映射如何对应？$\mathcal{M}(T^{-1}) = (\mathcal{M}(T))^{-1}$ 吗 (3.86)？
• 换基时矩阵如何变化（基变换公式 $A = C^{-1}BC$，3.84）？能否选基使矩阵最简（习题 3.C.5 已预告）？
• 当 $\dim V = \dim W$ 时，单射 $\iff$ 满射 $\iff$ 可逆 (3.65)——矩阵语言下这意味着什么？
• 秩的进一步刻画：本节证明了列秩 = 行秩（定理 3.57），但”$\dim\text{range } T =$ 列秩”（定理 3.78）要到 lecture 8 才证。届时我们会看到基变换不改变秩，以及可逆矩阵 $\iff$ 秩等于阶数（习题 3.D.22）。

9. Exercises (Homework Assignment 7: LADR 3.C: 3, 4, 5, 12, 14, 15)

题号	考查内容
3.C.3	验证 $\mathcal{M}(S+T)=\mathcal{M}(S)+\mathcal{M}(T)$ 与 $\mathcal{M}(\lambda T)=\lambda\mathcal{M}(T)$
3.C.4	为微分映射 $D: \mathcal{P}_3(\mathbb{R}) \to \mathcal{P}_2(\mathbb{R})$ 选基使其矩阵为”对角 1”形
3.C.5	证明可选基使 $\mathcal{M}(T)$ 除前 $\dim \text{range } T$ 个对角元为 1 外全为 0
3.C.12	证明矩阵乘法结合律（体会 Artin 的”扔掉矩阵”箴言）
3.C.14	证明转置 $A \mapsto A^t$ 是从 $\mathbf{F}^{m,n}$ 到 $\mathbf{F}^{n,m}$ 的线性映射
3.C.15	证明 $(AC)^t = C^t A^t$（转置的反序律）

3.C.3

Suppose $v_1, \dots, v_n$ is a basis of $V$ and $w_1, \dots, w_m$ is a basis of $W$. (a) Show that if $S, T \in \mathcal{L}(V, W)$, then $\mathcal{M}(S+T) = \mathcal{M}(S) + \mathcal{M}(T)$. (b) Show that if $\lambda \in \mathbf{F}$ and $T \in \mathcal{L}(V, W)$, then $\mathcal{M}(\lambda T) = \lambda \mathcal{M}(T)$.

This exercise asks you to verify 3.35 and 3.38.

solution:

3.C.4

Suppose that $D \in \mathcal{L}(\mathcal{P}_3(\mathbb{R}), \mathcal{P}_2(\mathbb{R}))$ is the differentiation map defined by $Dp = p'$. Find a basis of $\mathcal{P}_3(\mathbb{R})$ and a basis of $\mathcal{P}_2(\mathbb{R})$ such that the matrix of $D$ with respect to these bases is

$$\begin{pmatrix} 1 & 0 & 0 & 0\\ 0 & 1 & 0 & 0\\ 0 & 0 & 1 & 0 \end{pmatrix}.$$

Compare with Example 3.33. The next exercise generalizes this exercise.

solution:

3.C.5

Suppose $V$ and $W$ are finite-dimensional and $T \in \mathcal{L}(V, W)$. Prove that there exist a basis of $V$ and a basis of $W$ such that with respect to these bases, all entries of $\mathcal{M}(T)$ are 0 except that the entries in row $k$, column $k$, equal 1 if $1 \le k \le \dim \text{range } T$.

solution:

3.C.12

Prove that matrix multiplication is associative. In other words, suppose $A$, $B$, and $C$ are matrices whose sizes are such that $(AB)C$ makes sense. Explain why $A(BC)$ makes sense and prove that

$$(AB)C = A(BC).$$

Try to find a clean proof that illustrates the following quote from Emil Artin: “It is my experience that proofs involving matrices can be shortened by 50% if one throws the matrices out.”

solution:

3.C.14

Suppose $m$ and $n$ are positive integers. Prove that the function $A \mapsto A^t$ is a linear map from $\mathbf{F}^{m,n}$ to $\mathbf{F}^{n,m}$.

solution:

3.C.15

Prove that if $A$ is an $m$-by-$n$ matrix and $C$ is an $n$-by-$p$ matrix, then

$$(AC)^t = C^t A^t.$$

This exercise shows that the transpose of the product of two matrices is the product of the transposes in the opposite order.

solution: