登录
首页精彩阅读数据分析方法:非参数检验
数据分析方法:非参数检验
2016-10-15
收藏

数据分析方法:非参数检验

前面介绍了T检验和方差分析,它们解决的是正态分布的高测度数据的均值差异性问题。对于非正态分布的高测度数据,T检验或方差分析的方法就不再适用了。

均值差异性的检验方法:Z检验和T检验综述;

均值差异性检验:方差分析综述;

对于分布形态未知的数据,常用处理方法如下:

判断数据序列的分布形态

以标准的正态分布形态为基准,检验数据序列与正态序列是否存在分布差异性,这里可以用单样本的K-S检验,如果没有显著性差异,就认为该序列满足正态分布。对于已经满足正态分布的序列,可以直接使用基于正态分布数据分析技术,比如T检验和方差分析

转化为正态分布序列

明确不是正态分布的序列,可以通过技术手段将序列转化为接近正态分布的形态。在数据分析过程中,人们常常借助于秩分把非正态分布的数据转化为接近正态分布的形态;或者借助于Z分数和正态得分对数据序列进行预处理,然后借助正态分布差异性分析结束实现差异显著性检验。

非参数检验方法

除了转化为正态分布序列,还可直接使用非参数检验方法检验其分布差异性。实际上,所谓的非参数检验,其实质就是借助于秩分或符号等技术对原始序列进行转化,然后借用类似参数检验的手段开展数据分析。

非参数检验

前面说到,对于不符合正态分布的数据,可以采用非参数检验的方法进行数据分析。在这里,不符合正态分布的数据可以分为两种:1、不符合正态分布的高测度数据(定距数据和高测度的定序数据);2、低测度数据(定类数据和低测度的定序数据)。根据上面两种数据类型,非参数检验主要包括下面三个方面的内容:

检验样本的分布形态

检验高测度数据序列的分布形态,这是针对单变量的检验,其方法是检验数据序列的分布与标准分布形态的差异性。如果当前数据序列与标准分布形态没有显著性差异,则被认为当前序列满足该分布形态。常见的针对单样本数据判断其分布形态的检验技术主要有:单样本K-S检验、单样本游程检验、二项分布检验、卡方检验。

分布形态差异显著性检验

对于不符合正态分布的高测度数据序列,常见的差异显著性检验方法有:1、两独立样本的差异显著性检验;2、多独立样本的差异显著性检验;3、两关联样本的差异显著性检验;4、多关联样本的差异显著性检验。

低测度数据的差异显著性检验

对于不符合正态分布的定类数据或低测度定序数据,其检验方法是利用交叉表技术分行分列计算交叉点的频数,利用卡方距离实施卡方检验,基于频数和数据分布形态分析不同类别的数据是否存在显著性差异。对于定类数据的对比检验,也叫独立性检验。
分布形态差异显著性检验

分布形态检验前面已经介绍过,低测度数据的卡方检验将在下一篇文章中介绍。下面重点介绍对于非正态分布的高测度数据的分布形态差异显著性检验方法。

两关联样本的非参数检验

对不满足正态分布的两关联样本,如果分析其是否存在显著性差异,不可以通过均值比较其差异性,通常是通过对比其分布形态比较其差异性。

数据序列的三个要求:1、样本数据来源于同一总体的不同视角,或者是对相同样本的多次测量;2、几组样本数据之间存在一一对应的关联性;3、数据不满足正态分布,或样本的测量区分度不高。

两关联样本非参数检验的方法

符号秩检验(Wilcoxon);基于符号检验其秩分分布的办法,本质上是一种检验平均秩的检验。即把样本的两次观测值相减,记录差值的符号和绝对值,并基于绝对值升序求秩分,比较两组数据的正值秩分或负值秩分,从而确定其差异性。

符号检验(Sign);纯粹通过符号实施数据检验的一种方法,即对样本的两次测量值直接相减求取符号,然后根据符号情况确定其差异性。由于符号检验仅仅通过正负号进行检验,适合于测度较低的非定距数据,其检验准确度不够高。

变化显著性检验(McNemar);变化显著性检验,是基于两次测量差值情况的检验方法。即把样本的两次测量值相减,记录差值,然后通过校验公式处理后,求取卡方值。然后基于卡方检验决定其差异性。变化显著性检验,仅适用于两个变量均为二分数据的情况。

边缘一致性检验(MarginalHomo);边缘一致性检验,也是基于两次测量差值情况的检验方法,主要通过把先后测量的两组样本值进行卡方检验。基于卡方检验的方法判断序列之间差异性。边缘一致性检验,对变量的要求并不局限于二分数据,还可以面向多值的分类变量。

多关联样本的非参数检验

当关联样本多于两个时,需要用多关联样本的非参数检验。多关联样本的非参数检验方法主要有:

双向等级方差分析(FriedMan);双向等级方差分析是基于K个变量降序秩分的差异显著性检验。这是基于秩分的一种方差分析方法,其基本思路是先对样本的K个检验量进行降序求秩分,然后按照秩分做方差分析。双向等级方差分析,比较适合于针对定距变量和高测度定序变量的数据分析。

肯德尔和谐系数检验(Kendall);肯德尔和谐系数检验,是基于肯德尔系数的差异显著性检验技术,是基于秩分的平均等级分析。其基本思路是:先计算K个观测量卡方值和肯德尔和谐系数W,然后判断其观测值的分布是否一致。在肯德尔和谐系数检验中,以肯德尔和谐系数W表示被检验变量的秩分之间的差异程度。协同系数W的取值在0~1,W越接近于1,表示变量的组件差异越大,反之,协同系数W越接近于0,表示变量的组间差异越小。肯德尔和谐系数检验,比较适合于定距变量与定序变量的处理。

二分变量检验(Cochran检验);二分变量检验,通过检验多个样本量的CochranQ系数,以便分析K各关联样本是否来自同一总体或者具有相同的分布。二分变量检验,主要面向二分变量的分析。

两独立样本的非参数检验

对不满足正态分布的两独立样本,如需要分析其是否存在显著性差异,同样不可以通过均值比较其差异性,通常是通过分布形态或秩分比较其差异性。对于两独立样本的非参数检验,对数据序列主要有以下要求:1、样本数据来源于同一总体;2、样本数据不满足正态分布,或样本的测量区分度不高;3、样本数据可被另外的分组变量划分为两组;

两独立样本非参数检验的方法

Wilcxon W等级和检验(Mann-Whitney U);Wilcxon W(威尔克科逊)等级与检验,也叫曼-惠特尼U检验,其基本思路是:把全部样本混在一起求秩,然后根据两组样本的秩分情况判断是否存在差异。曼-惠特尼U检验本质上是一种通过比较两个样本秩分情况而获得差异显著性检验结论的一种检验技术。本算法适应于定距数据和定序数据。

摩西极端反映的差异检验(MosesExtreme reaction);摩西极端反映检验,即摩西极端反映的差异显著性检验,即对全体样本混合求秩分,根据两端的极端秩分值确定其差异性。摩西极端反映检验是通过检验极端秩分值来反映的差异情况,来判断两组数据的分布是否存在差异。

两独立样本的K-S检验(Kolmogorov-Smirnov Z);两独立样本的K-S检验,是基于秩分累积频数的检验方式。即对全体样本混合求取秩分,然后针对秩分的累积频数或累积频率进行差异显著性检验。本算法适应于定距数据和定序数据。如果预先把其中一组数据设置为标准分布形态的数据,那么通过K-S分析待检验序列与标准分布的差异性水平,就能实现针对单样本数据的分布形态的判定。

沃尔德-沃尔福威茨游程检验(Wald-Wolfwitz runs);沃尔德-沃尔夫威茨游程检验,是基于秩分排列的游程检验。即对全体样本混合求取秩分,并基于两组样本在秩分序列中的位置构造游程。通过分析游程的大小和数量实现游程检验,从而判断两组样本在混合序列中的排列是否为随机的。若两组样本在混合序列中的排列是随机的,则两组样本之间没有显著性差异。

多独立样本的非参数检验

多独立样本的差异显著性检验既可以是针对同一总体的不同随机抽样,也可以源于不同总体,其目的是判断多个样本序列的差异是否显著。在多独立样本的差异显著性检验中,对符合正态分布的高测度数据,通常使用方差分析的方法,而对不符合正态分布的数据,或者方差非齐性时,则常常使用非参数检验的方法。


多独立样本非参数检验的方法

K-W平均秩检验(Kruskal-Wailis H);K-W平均秩检验是一种基于平均秩的差异显著性检验。其基本思路是:先把待分析的观测变量序列排序后求取秩分(或者把多个独立样本的数据混合后排序并求取秩分),然后基于各组秩分,进行类似方差分析的计算,分析秩分的均值差异是否显著。K-W平均秩检验是基于秩分的一种方差分析技术,适合于观测变量为定距数据或定序数据的场合。

中位数检验(Median);中位数检验是基于数据序列的中位数而设计的一种差异性的检验。其基本思路:先求取混合后数据的中位数,然后利用卡方分布统计量来计算每个样本组内中位数两侧个案数的差异性。中位数检验适合于测度不高的定序变量。

分组分布检验(Jonckheere);分组分布检验是通过检验多个样本组是否具有相同分布来判断差异性的方法。样本的分组根据分组变量定义。分组分布检验既可以检验定距变量,也可以检验定序变量。对于定序变量,本方法比K-W检验更为有效。

数据分析咨询请扫描二维码

客服在线
立即咨询