热线电话:13121318867

登录
首页大数据时代数据分析师知识点汇总(主成分分析)
数据分析师知识点汇总(主成分分析)
2021-02-19
收藏

一、具体方法

1.主成分分析的具体方法

主成分分析是一类常用的针对连续变量的降维方法,选取能够最大化解释数据变异的成分,将数据从高维降到低维,同时 保证各个维度之间正交。 对变量的协方差矩阵或相关系数矩阵求取特征值和特征向量,经证明,对应最大特征值的特征向量,其方向正是协方差矩 阵变异最大的方向。依次类推,第二大特征值对应的特征向量,是与第一个特征向量正交且能最大程度解释数据剩余变异 的方向,而每个特征值则能够衡量各方向上变异的程度。因此,进行主成分分析时,选取最大的几个特征值对应的特征向 量,并将数据映射在这几个特征向量组成的参考系中,达到降维的目的(选择的特征向量数量低于原始数据的维数)。

二、算法解析

1.主成分分析算法解析

主成分分析算法认为,数据的信息是包含在其方差当中的,如果一个随机变量方差很小,说明其不确定性较低,或者说即便我们没有获 得这个变量的抽样值,也几乎可以用一个确定的值(例如其期望值)来代替它,因此引入它只能消除很少的不确定性,即该变量包含的信 息较少。相反,一个方差很大的变量,如果能够获得它的抽样值,则可以帮助我们消除很大一部分不确定性,因此它包含的信息较多。 从主成分分析的观点出发,我们就知道下图中投影到哪个轴更加合适了,显然将原始坐标轴旋转到左图当中的U1位置更好,因为数据在 这个方向上的变异(方差)更大,而样本在右图的U1方向显然变异更小(图中阴影用于示意离散程度,并不代表方差大小)。

数据分析师知识点汇总(主成分分析)
数据分析师知识点汇总(主成分分析)
数据分析师知识点汇总(主成分分析)

我们的目标是优化上式,求满足该函数最大化的 u,可以使用拉格朗日乘数法,即求满足下式最大的 u:

数据分析师知识点汇总(主成分分析)

我们的目标是优化上式,求满足该函数最大化的 u,可以使用拉格朗日乘数法,即求满足下式最大的 u:

数据分析师知识点汇总(主成分分析)
数据分析师知识点汇总(主成分分析)

三、应用

1.何时采用相关系数计算方法和协方差矩阵计算方法

在实际研究中,有时单个指标的方差对研究目的起关键作用,为了达到研究目的,此时用协方差矩阵进行主成分分析恰 到好处。相关系数矩阵就是随机变量标准化后的协方差矩阵。通过随机变量的标准化,相关系数矩阵剥离了单个指标的 方差,仅保留指标间的相关性,用相关系数矩阵计算主成分,其优势效应仅体现在相关性大、相关指标数多的一类指标上。

2.主成分法的应用

大致分为三个方面:

(1)对数据做综合打分

(2)降维以便对数据进行描述

(3)为聚类或回归等分析提供变量压缩 在应用时要能够判断主成分法的适用性,能够根据需求选取合适的主成分数量。

四、例题精讲

1.主成分分析计算在选择相关系数计算法时,确定主成分个数的大致原则包括( )?

A.特征根值大于1

B. 特征根值大于0.5

C.累积特征根值加总占总特征根值的80%以上

D. 累积特征根值加总占总特征根值的50%以上

答案:AC 解析:主成分分析主要考核得到软件的计算结果后如何选择主成分个数,由于主成分一般不具有 明确的意义,因此不考核主成分的解释,这会放在因子分析考核。该题是一个很标准的题目,答 案可以从任何一本教科书上找到。请注意题干中的“大致原则”,说明该原则在不同的运用场合 下选择标准会略有改变

2.主成分分析计算分为根据相关系数和协方差矩阵两种方式,以下哪种情况适合用相关系数计算( )?

A.变量的量纲不同

B. 变量的方差不同

C. 变量的标准差不同

D. 变量的均值不同

数据分析师知识点汇总(主成分分析)

数据分析咨询请扫描二维码

最新资讯
更多
客服在线
立即咨询