LU分解
打开本页,如果没有显示公式,请刷新页面。
本文是对《机器学习数学基础》第2章2.3.3节矩阵LU分解的拓展。
判断是否可LU分解
并非所有矩阵都可以实现LU分解。
定理1:若 阶可逆矩阵 可以进行LU分解,则 的 阶顺序主子阵(leading principal submatrix) 都是可逆的。
证明
将 用分块矩阵表示:
其中 是 分块矩阵。
因为 是单位下三角矩阵,且主对角线元素都是 ,则其分块矩阵 亦为三角矩阵,且主对角线元素非零。同理, 亦然。
所以 和 可逆,则 可以。
证毕。
例: 的顺序主子阵依次为:
定理2:(定理1的逆定理)若矩阵 的所有顺序主子阵 都可逆,则该矩阵存在LU分解。
证明(用归纳法)
, 可逆,则 ,所以有: ,即为LU分解。
设 阶顺序主子阵 可逆,且可LU分解, 。
阶顺序主子阵 可以表示为:
其中 是 维向量, 是标量。则上式可以进一步写成:
通过对应关系,可知:
解得:
所以:
其中
因为 和 可逆,所以 可逆,则 。即 可以分解为 。
综上,定理得证。
LU分解的唯一性
对于 而言, 是单位下三角矩阵,主对角线元素为 。对于 ,以 为例,可以转化为:
所以:
假设 , ,则:
由因为 和 都可逆,所以:
继续以 阶方阵为例,将上式等号左右分别用矩阵方式展开,得:
所以: ,非主元的值 ,故
所以: ,即 LU 分解具有唯一性。
证毕。
LU分解的应用
求解线性方程组
此应用在《机器学习数学基础》第2章2.3.3节中有详细介绍,请参阅。
计算行列式
利用LU分解可以手工计算 阶行列式。
三角矩阵的行列式等于主对角元乘积。
所以: ,则:
参考文献
[1]. https://ccjou.wordpress.com/2010/09/01/lu-分解/
作者: 老齐
链接: http://math.itdiffer.com/lu-decomposition.html
来源: 机器学习
本文原创发布于「机器学习」,转载请注明出处,谢谢合作!