《数学基础》-1.线性代数-1.5.矩阵的奇异值

1.5.矩阵的奇异值

1.5.1.矩阵的奇异值分解(svd分解)

《数学基础》-1.线性代数-1.5.矩阵的奇异值

证明:

(1)《数学基础》-1.线性代数-1.5.矩阵的奇异值为m行n列,秩为r的矩阵

《数学基础》-1.线性代数-1.5.矩阵的奇异值

《数学基础》-1.线性代数-1.5.矩阵的奇异值

《数学基础》-1.线性代数-1.5.矩阵的奇异值

奇异值定义:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

这里有r个λ大于0,因为《数学基础》-1.线性代数-1.5.矩阵的奇异值为对称阵,所以《数学基础》-1.线性代数-1.5.矩阵的奇异值可以对角化,即《数学基础》-1.线性代数-1.5.矩阵的奇异值为对角阵,又因为R(《数学基础》-1.线性代数-1.5.矩阵的奇异值)=R(A) ,且由相似定理得《数学基础》-1.线性代数-1.5.矩阵的奇异值《数学基础》-1.线性代数-1.5.矩阵的奇异值相似,则他们的特征值相同,所以有r个λ大于0

奇异值分解(svd分解):

《数学基础》-1.线性代数-1.5.矩阵的奇异值

证明:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

则 《数学基础》-1.线性代数-1.5.矩阵的奇异值

所以:《数学基础》-1.线性代数-1.5.矩阵的奇异值,(1)    《数学基础》-1.线性代数-1.5.矩阵的奇异值(2)

由(1)得:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

或者左右两边同时乘以Σ的逆得

《数学基础》-1.线性代数-1.5.矩阵的奇异值

由(2)得:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

《数学基础》-1.线性代数-1.5.矩阵的奇异值

《数学基础》-1.线性代数-1.5.矩阵的奇异值

上式称为矩阵A的奇异值分解

 

例题:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

解:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

《数学基础》-1.线性代数-1.5.矩阵的奇异值

《数学基础》-1.线性代数-1.5.矩阵的奇异值

1.5.2.svd分解的应用

1.图像压缩

图片可以看做一个矩阵,利用奇异值分解《数学基础》-1.线性代数-1.5.矩阵的奇异值,可以写成

《数学基础》-1.线性代数-1.5.矩阵的奇异值

其中:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

将A展开得:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

其中《数学基础》-1.线性代数-1.5.矩阵的奇异值

原始图像需要保存m×n个数,但是经过分解,由于后面的σ越来越小,所以可以只取前k个项,则数据量为(m+n+1)k<<m*n因而达到了压缩图像的目的

采用这种方式存储图像,损失函数为:

《数学基础》-1.线性代数-1.5.矩阵的奇异值

k越大,损失越小,更能充分接近真实的图像。

下面可以分别对k取不同值,对比图像差别:

分别保留二十分之一、十分之一、五分之一、三分之一、二分之一、原图对比

《数学基础》-1.线性代数-1.5.矩阵的奇异值《数学基础》-1.线性代数-1.5.矩阵的奇异值《数学基础》-1.线性代数-1.5.矩阵的奇异值 

《数学基础》-1.线性代数-1.5.矩阵的奇异值《数学基础》-1.线性代数-1.5.矩阵的奇异值《数学基础》-1.线性代数-1.5.矩阵的奇异值 

 

2.矩阵乘法加速

《数学基础》-1.线性代数-1.5.矩阵的奇异值

《数学基础》-1.线性代数-1.5.矩阵的奇异值