奇异值分解SVD的理解与应用
为更好的理解这篇文章,现在这里列出几个文中出现的概念,想要更深的理解这些概念,可以看我的另一篇文章:关于特征值的理解。
向量的内积:两向量a=[a1,a2,…,an]和b=[b1,b2,…,bn],其内积为 a⋅b=a1b1+a2b2+……+anbn。
特征值与特征向量:对一个m×m矩阵A和向量x,如果存在λ使得下式成立,Ax=λx,则称λ为矩阵A的特征值,x称为矩阵的特征向量。
对角矩阵:对角矩阵是除对角线外所有元素都为零的方阵。
正交矩阵:正交是一个方块矩阵V,行与列皆为正交的单位向量,即Vn×nVTn×n=In,使得该矩阵的转置矩阵为其逆矩阵,VT=V−1。
直接进入正题,矩阵当中有一个非常著名的理论,即:
一个n×n的对称矩阵A可以分解为:A=VDVT。其中,V是一个n×n正交矩阵,并且列向量是矩阵A的特征向量;D是一个n×n对角矩阵,并且对角线上的值为对应特征向量的特征值。
上面的理论是针对一个n×n的对称矩阵,那么对于任意的一个m×n的矩阵A,有没有类似的表达方法呢。答案是肯定的,svd正是用来解决这个问题的。
对任意一个m×n的矩阵A,可以将其分解为:A=USVT。其中U是一个m×m的正交矩阵;S是一个m×n的矩阵,其主对角元素≥0,非主对角元素均为0;V是一个n×n的正交矩阵。
关于svd的证明过程,似乎更多是数值上的工作,本文想给出更多intuitive上的理解。想要了解证明的可以参考这篇论文:Kalman D. A singularly valuable decomposition: the SVD of a matrix。
这样,对任意一个矩阵,我都可以分解成三个矩阵的内积。让我们看一下它有什么神奇的性质。
AAT=USVTVSTUT=USSTUT=UDUT(1)
由于V是一个正交矩阵,VT=V−1,所以VT*V=I。S只有主对角元素不为0,那么SST的结果为一个m×m的对角矩阵D。而虽然A是任意的一个m×n的矩阵,但AAT是一个m×m的对称矩阵。这样一看,AAT=UDUT是不是和前面那个理论非常相似。那么U的列向量应该是对称矩阵AAT的特征向量,D应该是一个对角矩阵,且对角线上值是对称矩阵AAT的特征值。
ATA=VSTUTUSVT=VSTSVT=VWVT(2)
同样,V的列向量则是对称矩阵ATA的特征向量,而W则是一个n×n的对角矩阵。这里W和D实际上是相同的,只是对角线上后面的0的数量不一样。
可以看出,矩阵S主对角线上的值,实际上是对称矩阵AAT或ATA特征值的平方根。
所以,实际上svd是一个矩阵分解方法,对于任意一个m×n的矩阵A,svd都可以将其分解成为A=USVT。其中矩阵U的列向量是对称矩阵AAT的特征向量,称作左奇异矩阵;矩阵V的的列向量是对称矩阵ATA的特征向量;S是一个m×n的矩阵,主对角线上的值是对称矩阵AAT或ATA特征值的平方根,称作奇异值,且非对角线上的值为0.
不知道写到这里,大家是不是对svd有了一个比较具体的印象。然而,上面只是从数学上解释了svd的构成,我们好奇的是,从很多地方,我们都听到了svd,即使如上面所述,它长的是这个样子,但是我们它到底可以用来做什么事情呢?
下面我们举几个svd的实际应用,加深我们对它的理解。
1)有损的数据压缩
假设我们有一个m×n的矩阵A,它表示一组数据
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14