可逆矩阵
打开本页，如果没有显示公式，请刷新页面。
《机器学习数学基础》第2章2.3.1节阐述了可逆矩阵的定义、性质，并演示了Python中的计算函数及其应用。
若一个矩阵存在逆矩阵，则称之为可逆矩阵，或者非奇异矩阵。
并不是所有的矩阵都是可逆矩阵。
如果矩阵可逆，用手工计算，通过高斯法可以得到其逆矩阵。此外，还有其他方法可以求得逆矩阵。此处以常用的2、3阶矩阵为例，说明手工计算逆矩阵的方法。
以下内容主要参考[5]。
2阶逆矩阵公式
设 是 可逆矩阵，则其逆矩阵公式：
方法1：化简增广矩阵
其推导过程如下：
故，矩阵 可逆的充要条件是 。
方法2：伴随矩阵
设 是矩阵 的逆矩阵，则 ，即：
根据矩阵乘法的含义，可得：
利用克拉默法则 ，可以解得：
方法3：凯莱-哈密顿定理
根据凯莱-哈密顿定理，对 阶方阵，特征多项式为 （ 表示行列式，与 含义一样），有
对矩阵 ，其特征多项式：
根据凯莱-哈密顿定理，有：
上式乘以 ，得：
因为 ，则由上式可得：
3阶逆矩阵公式
方法1：化简增广矩阵
与前述 阶方法一样。
方法2：伴随矩阵
设 的伴随矩阵（adjugate） ，各元素为 ，其中 表示移除 的第 行与第 列之后得到的 子阵， 为余子式（minor）， 称为 的余子式。
伴随矩阵的等式：
上式两边乘以 ，得：
以 矩阵为例，则可以得到 的逆矩阵：
对于 的矩阵，则为：
方法3：凯莱-哈密顿定理
参照前述 阶矩阵的方法，可以写出 阶矩阵的特征多项式
令 为 的特征值，因为这些特征值是特征多项式（上式）的跟，所以：
因为 ， （参阅《机器学习数学基础》第3章3.1.2节矩阵的迹），则：
又因为 ，根据凯莱-哈密顿定理：
上式乘以 ，得到 矩阵的逆矩阵的矩阵多项式：
同时，可以计算 的伴随矩阵：
可逆矩阵定理和性质总结
定理
令 是一个 的实矩阵，则以下表述对于可逆矩阵 是等价的：
是可逆的，或者说存在 满足 ， 是 阶单位矩阵。
仅有平凡解 。
证明：
若 可逆，对于 两侧左乘 。左侧得： ；右侧为： 。故 。
有唯一解 。
证明：
假设此方程有两个相异的解 和 ，由已知方程式，可知：
即非平凡解满足 。故 有唯一解。
有 个非零主元（pivot）。
的简约行梯形式（reduced row echelon form）为 ，或者说 行等价于 。
证明
由第3条唯一解知，增广矩阵 可化简为 ，即：
有线性无关的列向量 (column vector)。
证明
设 为 的列向量，则：
如果满足第2条定理，则 各列向量线性无关。
有线性无关的行向量 (row vector)。
证明
假设 的行向量线性相关，其中必定存在至少一行可表示其他行的線性組合，也就是说对 进行高斯消元法将会至少有一个零行，于是总的轴数就小于 。这与第4条定理矛盾。假设不成立。
。
的列空間 (column space) 为 或者说线性变换 是满射（onto，surjective）。
的行空間 (row space) 为 。
的零空間 (nullspace) 为 ，或者说线性变换 是一对一（one-to-one，injective）。
的零空間为 。
。
的特征值不为零。
是实对称正定矩阵。
的奇异值（sigular value）大于零。
参考文献
[1]. 对矩阵乘法的深入理解
[2]. 克拉默法则
[3]. https://zh.wikipedia.org/wiki/凱萊–哈密頓定理
[4]. https://zh.wikipedia.org/wiki/伴随矩阵
[5]. https://ccjou.wordpress.com/2012/10/04/三階逆矩陣公式/
作者: 老齐
链接: http://math.itdiffer.com/invertiblematrix.html
来源: 机器学习
本文原创发布于「机器学习」,转载请注明出处,谢谢合作!
