• Home
  • About
    • Jiabin's Room photo

      Jiabin's Room

      There is no royal road to learning.

    • Learn More
    • Email
    • Instagram
    • Github
  • Posts
    • All Posts
    • All Tags
  • Projects

矩阵分解系列--LU、Cholesky、LDL

01 Mar 2019

Reading time ~1 minute

说明

  本文主要内容为LU、Cholesky、LDL分解,具体涉及的内容有:

  • LU、LDL、Cholesky实现方式
  • Cholesky证明
  • 一些实际用途

1、LU 分解

定义[1]

Let A be a square matrix. An LU factorization refers to the factorization of A, with proper row and/or column orderings or permutations, into two factors – a lower triangular matrix L and an upper triangular matrix U: \[ A=LU \]

实现

  进行LU分解的方法主要是高斯消元,这边有两种形式,一种是直接使用行初等变换,依次把各个行初等变换矩阵乘起来等到一个一个三角矩阵,具体看下面的例子;还有一种是使用一个高斯消元矩阵,这边不展开,只列出他的形式。

方法一[2]

方法一

方法二[3]

  方法二在这边不展开,只展示变换矩阵形式 方法二

用途

  LU最重要的用途就是解方程AX=B,因为A变成了两个三角矩阵,二三角矩阵在解方程时效率较快,因此此时只需要解两个三角矩阵方程即可。另一个比较常用的用途是求行列式,因为三角矩阵的行列式是对角元素的乘积,因此此时A的det就变成了,两个三角矩阵对角元素的乘积,因为L的对角元素为1,所以实际就是U矩阵的对角元素。

2、Cholesky 分解

定义[4]

The Cholesky decomposition of a Hermitian positive-definite matrix A is a decomposition of the form \[ A=LL^* \] where L is a lower triangular matrix with real and positive diagonal entries, and L* denotes the conjugate transpose of L. Every Hermitian positive-definite matrix (and thus also every real-valued symmetric positive-definite matrix) has a unique Cholesky decomposition.

证明[5]

  这个部分将会证明,一个正定矩阵存在Cholesky分解。这边会需要一个前提,A存在唯一一个LDU分解,D为对角矩阵,这实际上根据其存在唯一一个LU分解可以很容易得到。
证明

实现

  由于LU此时相互共轭转置,根据这个附加条件可以在LU分解的基础上加以改进,使得Cholesky分解效率高于LU分解,具体算法有The Cholesky algorithm、The Cholesky–Banachiewicz and Cholesky–Crout algorithms[4],这边不加以展开。

用途

  主要还是解方程,通过两个三角矩阵来解方程AX=B。

3、LDL 分解

定义[4]

A closely related variant of the classical Cholesky decomposition is the LDL decomposition, \[ A=LDL^* \] where L is a lower unit triangular (unitriangular) matrix, and D is a diagonal matrix.

证明

  LDL存在可以直接通过Cholesky分解来得到,只要另Cholesky分解A=GG*中\(G=LD^{1/2}\)即可。

用途

  LDL因为避免了平方根的提取,因为效率上比Cholesky分解更优。而其主要用途同Cholesky。实际上我们可以把LDL分解看作是Cholesky分解的改进版。

参考

[1] LU decomposition
[2] https://blog.csdn.net/billbliss/article/details/78559289
[3] Gene H. Golub.matrix computations
[4] Cholesky decomposition
[5] https://blog.csdn.net/lanchunhui/article/details/50890391




评论版块需要fan墙,如果需要请fan墙后操作。
游客评论无法接受回复提醒邮件。
之前也用了别的评论系统,但还是觉得这个比较好,功能比较全。



矩阵分解LUCholeskyLDL Share Tweet +1