一、复向量的长度

本节的主要内容可概括为：当对一个复向量 $z$ 或复矩阵 $A$ 转置后，还要取复共轭。 不能在 $z^T$ 或 $A^T$ 时就停下来，还要对所有的虚部取相反的符号。对于一个分量为 $z_j=a_j+i{b}_j$ 的列向量，其共轭转置（conjugate transpose）是分量为 $a_j-i{b}_j$ 的行向量 ${\overline{z}}^T$：$$共轭转置\text{Conjugate transpose}{\overline{z}}^T=\left[\begin{array}{cccc}{\overline{z}}_1& {\overline{z}}_2& \cdots & {\overline{z}}_n\end{array}\right]=\left[\begin{array}{cccc}{a}_1-i{b}_1& a_2-i{b}_2& \cdots & a_n-i{b}_n\end{array}\right](\mathrm{9.2.1})$$下面给出取共轭的一个原因。实向量长度的平方是 $x_1^2+x_2^2+\cdots +x_n^2$，而复向量长度的平方并不是 $z_1^2+z_2^2+\cdots +z_n^2$，这是一个错误的定义，因为这样会导致 $(1,i)$ 长度的平方是 $1^2+i^2=0$，即一个非零的向量其长度为零。而且还会有其它向量出现长度为复数的情况。我们需要绝对值的平方 $a^2+b^2$ 而不是 $(a+bi{)}^2$，这个就是 $(a+bi)$ 乘 $(a-bi)$.
对于每个分量我们都想要 $z_j$ 乘 ${\overline{z}}_j$，即 $|z_j{|}^2=a_j^2+b_j^2$. 这是由 $z$ 的分量乘 $\overline{z}$ 的分量得到的：$$长度平方\left[\begin{array}{cccc}{\overline{z}}_1& {\overline{z}}_2& \cdots & {\overline{z}}_n\end{array}\right]\left[\begin{array}{c}{z}_1\\ z_2\\ ⋮\\ z_n\end{array}\right]=|z_1{|}^2+|z_2{|}^2+\cdots +|z_n{|}^2.即是{\overline{z}}^{T}z=||z|{|}^2(\mathrm{9.2.2})$$这样 $(1,i)$ 长度的平方就是 $1^2+|i{|}^2=2$，其长度为 $\sqrt{2}$，$(1+i,1-i)$ 长度的平方是 $4$. 唯一的零长度向量就是零向量。

$$长度||z||是{\overline{z}}^{T}z=z^{H}z=|z_1{|}^2+|z_2{|}^2+\cdots +|z_n{|}^2的平方根$$

后面我们会用一个符号来代替两个符号：我们只使用一个上标 $\text{H}$ 来代表共轭的横线和转置的上标 $\text{T}$，即 ${\overline{z}}^T=z^H$. 这就是 “$z$ 的共轭转置"，称为 “$z\text{Hermitian}$”. 这个符号也可以用在矩阵上：矩阵 $A$ 的共轭转置就是 $A^H$.
另外一个表示共轭转置的常见符号是 $A^{\ast }$. MATLAB 中的命令 ${}^{\prime }$ 会自动取复共轭（$z^{\prime }$ 就是 $z^H={\overline{z}}^T$，而 $A^{\prime }$ 是 $A^H={\overline{A}}^H$）.$$A^H是“A的共轭转置”.如果A=\left[\begin{array}{cc}1& i\\ 0& 1+i\end{array}\right]，则A^H=\left[\begin{array}{cc}1& 0\\ -i& 1-i\end{array}\right]$$

二、复内积

对于实向量，其长度的平方是 ${\mathbf{x}}^T\mathbf{x}$，即 $\mathbf{x}$ 和它自己的内积。对于复向量，其长度的平方是 ${\mathbf{z}}^H\mathbf{z}$，如果 ${\mathbf{z}}^H\mathbf{z}$ 也是 $\mathbf{z}$ 和它自己的内积，则这个就与实向量的情形一致。因此，复内积（complex inner product）是取共轭转置（不仅仅是转置），而共轭对实向量没有影响。

定义\kern 10pt 实向量或复向量 $\mathbf{u}$ 和 $\mathbf{v}$ 的内积是 ${\mathbf{u}}^H\mathbf{v}$：$${\mathbf{u}}^H\mathbf{v}=\left[\begin{array}{cccc}{\overline{u}}_1& {\overline{u}}_2& \cdots & {\overline{u}}_n\end{array}\right]\left[\begin{array}{c}{v}_1\\ v_2\\ ⋮\\ v_n\end{array}\right]={\overline{u}}_1{v}_1+{\overline{u}}_2{v}_2+\cdots +{\overline{u}}_n{v}_n(\mathrm{9.2.3})$$

对于复向量，${\mathbf{u}}^H\mathbf{v}$ 和 ${\mathbf{v}}^H\mathbf{u}$ 并不相等，此时向量的顺序就变得很重要了。实际上 ${\mathbf{v}}^H\mathbf{u}={\overline{v}}_1{u}_1+{\overline{v}}_2{u}_2+\cdots +{\overline{v}}_n{u}_n$，它是 ${\mathbf{u}}^H\mathbf{v}$ 的复共轭。为了使得其同时适用于实向量和复向量，我们不得不容忍这一点不便。

【例1】$\mathbf{u}=\left[\begin{array}{c}1\\ i\end{array}\right]$ 和 $\mathbf{v}=\left[\begin{array}{c}i\\ 1\end{array}\right]$ 的内积是 $\left[\begin{array}{cc}1& -i\end{array}\right]\left[\begin{array}{c}i\\ 1\end{array}\right]=0$.

例 1 给出了一个令人惊讶的结果，向量 $(1,i)$ 和 $(i,1)$ 看起来并不垂直，但实际上确垂直。内积为零仍然表明（复）向量正交。类似的，向量 $(1,i)$ 和 $(1,-i)$ 也是正交的，它们的内积是 $1-1=0$，这样我们得到了正确的内积零，如果我们忘记取共轭，就会得到 $(1,i)$ 的长度为零这样错误的结果。

注： 计算复内积时，这里我们对第一个向量 $\mathbf{u}$ 取了共轭，而有些地方会对第二个向量 $\mathbf{v}$ 取共轭，则复内积就是 ${\mathbf{u}}^T\overline{\mathbf{v}}$. 这两种选择都可以。

$A\mathbf{u}$ 和 $\mathbf{v}$ 的内积等于 $\mathbf{u}$ 和 $A^H\mathbf{v}$ 的内积：$$A^H也称为A的“伴随矩阵”(A\mathbf{u}{)}^H\mathbf{v}={\mathbf{u}}^H(A^H\mathbf{v})(\mathrm{9.2.4})$$$A\mathbf{u}$ 的共轭是 $\overline{A\mathbf{u}}$，再对 $\overline{A\mathbf{u}}$ 取转置得到 ${\overline{\mathbf{u}}}^T{\overline{A}}^T$，这个就是 ${\mathbf{u}}^H{A}^H$. 这些运算都是相容的，共轭转置的运算继承自转置的运算法则。
还有一个事实，$(a-ib)(c-id)$ 是 $(a+ib)(c+ib)$ 的共轭。

$$AB的共轭转置是(AB{)}^H=B^H{A}^H$$

三、埃尔米特矩阵 $S=S^H$

在实矩阵中，对称矩阵 $S=S^T$ 是最重要的特殊类：它们有实特征值和正交的特征向量，这些特征向量可以构成正交矩阵 $Q$. 每个实对称矩阵都可以写成 $S=Q\Lambda Q^{-1}$ 或 $S=Q\Lambda Q^T$（因为 $Q^{-1}=Q^T$）. 所有这些结论都是因为 $S$ 是实对称矩阵 $S^T=S$.
而在复矩阵中，这个特殊类是埃尔米特矩阵（Hermitian matrices）：$S=S^H$，对于其中的元素就是 $s_{ij}=\overline{s_{ji}}$. 这种情况下我们称 “$S$ 是艾尔米特矩阵”。 任意的实对称矩阵都是艾尔米特矩阵，这是因为取共轭对于实数没有影响。下例的矩阵就是一个艾尔米特矩阵：$S=S^H$：

【例2】矩阵 $S=\left[\begin{array}{cc}2& 3-3i\\ 3+3i& 5\end{array}\right]$ 是艾尔米特矩阵。由于 $s_{ii}=\overline{s_{ii}}$，所以埃尔米特矩阵的主对角线元素一定要是实数；关于对角线对称的元素是共轭的，本例中的是 $3+3i$ 和 $3-3i$. 本例会展示艾尔米特矩阵的三个关键性质：

如果 $S=S^H$ 且 $z$ 是任意实或复列向量，则 $z^{H}Sz$ 为实数。

简洁证明：${\mathbf{z}}^{H}S\mathbf{z}$ 是 $1\times 1$ 的矩阵，取它的共轭转置：$$({\mathbf{z}}^{H}S\mathbf{z}{)}^H={\mathbf{z}}^H{S}^H({\mathbf{z}}^H{)}^H={\mathbf{z}}^{H}S\mathbf{z}$$数值 ${\mathbf{z}}^{H}S\mathbf{z}$ 等于它的共轭，所以一定是实数。
下面是上述 “能量（energy）” ${\mathbf{z}}^{H}S\mathbf{z}$：$$\left[\begin{array}{cc}{\overline{z}}_1& {\overline{z}}_2\end{array}\right]\left[\begin{array}{cc}2& 3-3i\\ 3+3i& 5\end{array}\right]\left[\begin{array}{c}{z}_1\\ z_2\end{array}\right]\begin{array}{l}=2{\overline{z}}_1{z}_1+5{\overline{z}}_2{z}_2+(3-3i){\overline{z}}_1{z}_2+(3+3i)z_1{\overline{z}}_2\\ 对角元素非对角元素\end{array}$$上式中 $2|z_1{|}^2$ 和 $5|z_2{|}^2$ 这两项对应对角元素。非对角元素对应的项互为共轭 —— 所以它们的和是实数。（当它们相加时，虚部抵消掉了。）整个表达式 ${\mathbf{z}}^{H}S\mathbf{z}$ 是实数，而这可以推出特征值 $\lambda$ 是实数。

埃尔米特矩阵的每一个特征值都是实数。

证明： 假设 $S\mathbf{z}=\lambda \mathbf{z}$，两边同时左乘 ${\mathbf{z}}^H$ 得 ${\mathbf{z}}^{H}S\mathbf{z}=\lambda {\mathbf{z}}^H\mathbf{z}$. 由前面的结论，左边 ${\mathbf{z}}^{H}S\mathbf{z}$ 是实数；右边 ${\mathbf{z}}^H\mathbf{z}$ 是长度的平方，它是正实数。所以比值 $\lambda =\frac{{\mathbf{z}}^{H}S\mathbf{z}}{{\mathbf{z}}^H\mathbf{z}}$ 是一个实数。
由于 $S=S^H$，可以得到例 2 的特征值是 $\lambda =8$ 和 $\lambda =-1$：$$\left|\begin{array}{cc}2-\lambda & 3-3i\\ 3+3i& 5-\lambda \end{array}\right|={\lambda }^2-7\lambda +10-|3+3i{|}^2={\lambda }^2-7\lambda +10-18=(\lambda -8)(\lambda +1)$$

埃尔米特矩阵的特征向量是正交的（当它们对应不同的特征值）。
$$如果S\mathbf{z}=\lambda \mathbf{z}且S\mathbf{y}=\beta \mathbf{y}，则{\mathbf{y}}^H\mathbf{z}=0$$

证明： $S\mathbf{z}=\lambda \mathbf{z}$ 两边同时左乘 ${\mathbf{y}}^H$；$S\mathbf{y}=\beta \mathbf{y}$ 两边同时取共轭转置，且两边右乘 $\mathbf{z}$，得到：$${\mathbf{y}}^{H}S\mathbf{z}=\lambda {\mathbf{y}}^H\mathbf{z}，{\mathbf{y}}^H{S}^H\mathbf{z}=\beta {\mathbf{y}}^H\mathbf{z}(\mathrm{9.2.5})$$由于 $S=S^H$，所以上面两式左边相等，则 $\lambda {\mathbf{y}}^H\mathbf{z}=\beta {\mathbf{y}}^H\mathbf{z}$，故 ${\mathbf{y}}^H\mathbf{z}$ 一定为零。
例 $2$ 中特征值 $\lambda =8$ 和 $\beta =-1$ 对应的特征向量正交：$$\begin{array}{rcc}(S-8I)\mathbf{z}=\left[\begin{array}{cc}-6& 3-3i\\ 3+3i& -3\end{array}\right]\left[\begin{array}{c}{z}_1\\ z_2\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]& 得& \mathbf{z}=\left[\begin{array}{c}1\\ 1+i\end{array}\right]\\ (S+I)\mathbf{y}=\left[\begin{array}{cc}3& 3-3i\\ 3+3i& 6\end{array}\right]\left[\begin{array}{c}{y}_1\\ y_2\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]& 得& \mathbf{y}=\left[\begin{array}{c}1-i\\ -1\end{array}\right]\end{array}$$$$正交特征向量\text{Orthogonal eigenvectors}{\mathbf{y}}^H\mathbf{z}=\left[\begin{array}{cc}1+i& -1\end{array}\right]\left[\begin{array}{c}1\\ 1+i\end{array}\right]=0$$这些特征向量长度的平方是 $1^2+1^2+1^2=3$，除以 $\sqrt{3}$ 得到单位向量，这样它们现在就是标准正交向量。以这些向量为列向量的特征向量矩阵 $X$，可以对角化 $S$.
当 $S$ 是实对称矩阵时，$X$ 是 $Q$，它是正交矩阵。现在 $S$ 是复矩阵且为埃尔米特矩阵，它的特征向量可以取复的标准正交向量。特征向量矩阵 $X$ 就像 $Q$，但它是复矩阵，且有：$Q^{H}Q=I$. 我们给 $Q$ 去一个新的名字 “酉矩阵（unitary）”，但是仍记为 $Q$.

四、酉矩阵

酉矩阵（unitary matrix）$Q$ 是具有标准正交列的（复）方阵。$$酉矩阵对角化上述矩阵S：Q=\frac{1}{\sqrt{3}}\left[\begin{array}{cc}1& 1-i\\ 1+i& -1\end{array}\right]$$这个 $Q$ 也是一个埃尔米特矩阵，这个有些出人意料！这个例子太完美了，一般情况下这是不成立的。还可以确定的是这个 $Q$ 的特征值一定是 $1$ 和 $-1$.
对于实矩阵要检验是不是标准正交列的条件是 $Q^{T}Q=I$，非对角元素的内积为零。而对于复矩阵的情况，$Q^T$ 变成了 $Q^H$，当 $Q^H$ 左乘 $Q$ 时，我们就可以看出其列向量是不是标准正交的。任意两个列向量的内积都对应着 $Q^{H}Q=I$：

每个具有标准正交列的矩阵 $Q$ 都有 $Q^{H}Q=I$.
如果 $Q$ 还是方阵，则它是一个酉矩阵，则有 $Q^H=Q^{-1}$.

如果 $Q$（具有标准正交列）左乘任意向量 $\mathbf{z}$，那么向量的长度保持不变，这是因为 ${\mathbf{z}}^H{Q}^{H}Q\mathbf{z}={\mathbf{z}}^H\mathbf{z}$. 如果 $\mathbf{z}$ 是 $Q$ 的特征向量，那么我们还能够得到更多信息：酉矩阵（和正交矩阵）$Q$ 的特征值的绝对值都满足 $|\lambda |=1$.

如果 $Q$ 是酉矩阵则 $||Q\mathbf{z}||=||\mathbf{z}||$，因此 $Q\mathbf{z}=\lambda \mathbf{z}$ 可以推出 $|\lambda |=1$.

上面的 $2\times 2$ 的矩阵既是埃尔米特矩阵（$Q=Q^H$）又是酉矩阵（$Q^{-1}=Q^H$）. 这意味着它的特征值是实数且 $|\lambda |=1$，而实数中满足 $|\lambda |=1$ 的只有两种可能，所以特征值是 $1$ 或 $-1$，再根据 $Q$ 的迹为零可以推出 $\lambda =1$ 和 $\lambda =-1$.

【例3】Figure 9.3 中是 $3\times 3$ 的傅里叶矩阵，它是埃尔米特矩阵吗？它是酉矩阵吗？$F_3$ 肯定是对称矩阵，因为它等于它的转置。但是却不等于它自身的共轭转置，所以它不是埃尔米特矩阵。如果将 $i$ 改成 $-i$，会得到一个不同的矩阵。

$F$ 是酉矩阵？答案是是的。每一个列向量长度的平方都是 $\frac{1}{3}(1+1+1)$，所以它们都是单位向量。而 $1+e^{2\pi i/3}+e^{4\pi i/3}=0$，所以第一个列向量与第二个列向量正交，这就是 Figure 9.3 中所标注的三个数之和。
注意图中的对称性，如果将其旋转 $120°$，这三个点与原先的三个点是重合的，因此它们的和 $S$ 也不变，即 $S=0$.
$F$ 的列 $2$ 与列 $3$ 正交吗？它们的点积看起来是$$\frac{1}{3}(1+e^{6\pi i/3}+e^{6\pi i/3})=\frac{1}{3}(1+1+1)$$这个并不是零。但是这个答案是错误的，因为计算时没有取复共轭。复内积使用的是共轭转置 $\text{H}$ 而不仅仅是转置 $\text{T}$：$$(\text{column2}{)}^H(\text{column3})=\frac{1}{3}(1\cdot 1+e^{-2\pi i/3}{e}^{4\pi i/3}+e^{-4\pi i/3}{e}^{2\pi i/3})=\frac{1}{3}(1+e^{2\pi i/3}+e^{-2\pi i/3})=0$$因此，我们验证了正交性。结论：$F$ 是一个酉矩阵。
$n\times n$ 的傅里叶矩阵也是酉矩阵，而所有的酉矩阵中，它们是最重要的矩阵。如果用矩阵 $F$ 左乘一个向量，我们就是在计算它的离散傅里叶变换（Discrete Fourier Transform）；如果用矩阵 $F^{-1}$ 左乘一个向量，就是在求其逆变换。酉矩阵的特殊性质是 $F^{-1}=F^H$，逆变换的不同之处就是仅仅将 $i$ 变为 $-i$：$$将i变为-i{F}^{-1}=F^H=\frac{1}{\sqrt{3}}\left[\begin{array}{ccc}1& 1& 1\\ 1& e^{-2\pi i/3}& e^{-4\pi i/3}\\ 1& e^{-4\pi i/3}& e^{-2\pi i/3}\end{array}\right]$$所有使用傅里叶矩阵 $F$ 的人都会认识到其价值。快速傅里叶变换 FFT 中融合了傅里叶分析、复数和线性代数。