京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据分析方法:非参数检验
前面介绍了T检验和方差分析,它们解决的是正态分布的高测度数据的均值差异性问题。对于非正态分布的高测度数据,T检验或方差分析的方法就不再适用了。
均值差异性的检验方法:Z检验和T检验综述;
均值差异性检验:方差分析综述;
对于分布形态未知的数据,常用处理方法如下:
判断数据序列的分布形态
以标准的正态分布形态为基准,检验数据序列与正态序列是否存在分布差异性,这里可以用单样本的K-S检验,如果没有显著性差异,就认为该序列满足正态分布。对于已经满足正态分布的序列,可以直接使用基于正态分布的数据分析技术,比如T检验和方差分析。
转化为正态分布序列
明确不是正态分布的序列,可以通过技术手段将序列转化为接近正态分布的形态。在数据分析过程中,人们常常借助于秩分把非正态分布的数据转化为接近正态分布的形态;或者借助于Z分数和正态得分对数据序列进行预处理,然后借助正态分布差异性分析结束实现差异显著性检验。
非参数检验方法
除了转化为正态分布序列,还可直接使用非参数检验方法检验其分布差异性。实际上,所谓的非参数检验,其实质就是借助于秩分或符号等技术对原始序列进行转化,然后借用类似参数检验的手段开展数据分析。
非参数检验
前面说到,对于不符合正态分布的数据,可以采用非参数检验的方法进行数据分析。在这里,不符合正态分布的数据可以分为两种:1、不符合正态分布的高测度数据(定距数据和高测度的定序数据);2、低测度数据(定类数据和低测度的定序数据)。根据上面两种数据类型,非参数检验主要包括下面三个方面的内容:
检验样本的分布形态
检验高测度数据序列的分布形态,这是针对单变量的检验,其方法是检验数据序列的分布与标准分布形态的差异性。如果当前数据序列与标准分布形态没有显著性差异,则被认为当前序列满足该分布形态。常见的针对单样本数据判断其分布形态的检验技术主要有:单样本K-S检验、单样本游程检验、二项分布检验、卡方检验。
分布形态差异显著性检验
对于不符合正态分布的高测度数据序列,常见的差异显著性检验方法有:1、两独立样本的差异显著性检验;2、多独立样本的差异显著性检验;3、两关联样本的差异显著性检验;4、多关联样本的差异显著性检验。
低测度数据的差异显著性检验
对于不符合正态分布的定类数据或低测度定序数据,其检验方法是利用交叉表技术分行分列计算交叉点的频数,利用卡方距离实施卡方检验,基于频数和数据分布形态分析不同类别的数据是否存在显著性差异。对于定类数据的对比检验,也叫独立性检验。
分布形态差异显著性检验
分布形态检验前面已经介绍过,低测度数据的卡方检验将在下一篇文章中介绍。下面重点介绍对于非正态分布的高测度数据的分布形态差异显著性检验方法。
两关联样本的非参数检验
对不满足正态分布的两关联样本,如果分析其是否存在显著性差异,不可以通过均值比较其差异性,通常是通过对比其分布形态比较其差异性。
数据序列的三个要求:1、样本数据来源于同一总体的不同视角,或者是对相同样本的多次测量;2、几组样本数据之间存在一一对应的关联性;3、数据不满足正态分布,或样本的测量区分度不高。
两关联样本非参数检验的方法
符号秩检验(Wilcoxon);基于符号检验其秩分分布的办法,本质上是一种检验平均秩的检验。即把样本的两次观测值相减,记录差值的符号和绝对值,并基于绝对值升序求秩分,比较两组数据的正值秩分或负值秩分,从而确定其差异性。
符号检验(Sign);纯粹通过符号实施数据检验的一种方法,即对样本的两次测量值直接相减求取符号,然后根据符号情况确定其差异性。由于符号检验仅仅通过正负号进行检验,适合于测度较低的非定距数据,其检验准确度不够高。
变化显著性检验(McNemar);变化显著性检验,是基于两次测量差值情况的检验方法。即把样本的两次测量值相减,记录差值,然后通过校验公式处理后,求取卡方值。然后基于卡方检验决定其差异性。变化显著性检验,仅适用于两个变量均为二分数据的情况。
边缘一致性检验(MarginalHomo);边缘一致性检验,也是基于两次测量差值情况的检验方法,主要通过把先后测量的两组样本值进行卡方检验。基于卡方检验的方法判断序列之间差异性。边缘一致性检验,对变量的要求并不局限于二分数据,还可以面向多值的分类变量。
多关联样本的非参数检验
当关联样本多于两个时,需要用多关联样本的非参数检验。多关联样本的非参数检验方法主要有:
双向等级方差分析(FriedMan);双向等级方差分析是基于K个变量降序秩分的差异显著性检验。这是基于秩分的一种方差分析方法,其基本思路是先对样本的K个检验量进行降序求秩分,然后按照秩分做方差分析。双向等级方差分析,比较适合于针对定距变量和高测度定序变量的数据分析。
肯德尔和谐系数检验(Kendall);肯德尔和谐系数检验,是基于肯德尔系数的差异显著性检验技术,是基于秩分的平均等级分析。其基本思路是:先计算K个观测量卡方值和肯德尔和谐系数W,然后判断其观测值的分布是否一致。在肯德尔和谐系数检验中,以肯德尔和谐系数W表示被检验变量的秩分之间的差异程度。协同系数W的取值在0~1,W越接近于1,表示变量的组件差异越大,反之,协同系数W越接近于0,表示变量的组间差异越小。肯德尔和谐系数检验,比较适合于定距变量与定序变量的处理。
二分变量检验(Cochran检验);二分变量检验,通过检验多个样本量的CochranQ系数,以便分析K各关联样本是否来自同一总体或者具有相同的分布。二分变量检验,主要面向二分变量的分析。
两独立样本的非参数检验
对不满足正态分布的两独立样本,如需要分析其是否存在显著性差异,同样不可以通过均值比较其差异性,通常是通过分布形态或秩分比较其差异性。对于两独立样本的非参数检验,对数据序列主要有以下要求:1、样本数据来源于同一总体;2、样本数据不满足正态分布,或样本的测量区分度不高;3、样本数据可被另外的分组变量划分为两组;
两独立样本非参数检验的方法
Wilcxon W等级和检验(Mann-Whitney U);Wilcxon W(威尔克科逊)等级与检验,也叫曼-惠特尼U检验,其基本思路是:把全部样本混在一起求秩,然后根据两组样本的秩分情况判断是否存在差异。曼-惠特尼U检验本质上是一种通过比较两个样本秩分情况而获得差异显著性检验结论的一种检验技术。本算法适应于定距数据和定序数据。
摩西极端反映的差异检验(MosesExtreme reaction);摩西极端反映检验,即摩西极端反映的差异显著性检验,即对全体样本混合求秩分,根据两端的极端秩分值确定其差异性。摩西极端反映检验是通过检验极端秩分值来反映的差异情况,来判断两组数据的分布是否存在差异。
两独立样本的K-S检验(Kolmogorov-Smirnov Z);两独立样本的K-S检验,是基于秩分累积频数的检验方式。即对全体样本混合求取秩分,然后针对秩分的累积频数或累积频率进行差异显著性检验。本算法适应于定距数据和定序数据。如果预先把其中一组数据设置为标准分布形态的数据,那么通过K-S分析待检验序列与标准分布的差异性水平,就能实现针对单样本数据的分布形态的判定。
沃尔德-沃尔福威茨游程检验(Wald-Wolfwitz runs);沃尔德-沃尔夫威茨游程检验,是基于秩分排列的游程检验。即对全体样本混合求取秩分,并基于两组样本在秩分序列中的位置构造游程。通过分析游程的大小和数量实现游程检验,从而判断两组样本在混合序列中的排列是否为随机的。若两组样本在混合序列中的排列是随机的,则两组样本之间没有显著性差异。
多独立样本的非参数检验
多独立样本的差异显著性检验既可以是针对同一总体的不同随机抽样,也可以源于不同总体,其目的是判断多个样本序列的差异是否显著。在多独立样本的差异显著性检验中,对符合正态分布的高测度数据,通常使用方差分析的方法,而对不符合正态分布的数据,或者方差非齐性时,则常常使用非参数检验的方法。
多独立样本非参数检验的方法
K-W平均秩检验(Kruskal-Wailis H);K-W平均秩检验是一种基于平均秩的差异显著性检验。其基本思路是:先把待分析的观测变量序列排序后求取秩分(或者把多个独立样本的数据混合后排序并求取秩分),然后基于各组秩分,进行类似方差分析的计算,分析秩分的均值差异是否显著。K-W平均秩检验是基于秩分的一种方差分析技术,适合于观测变量为定距数据或定序数据的场合。
中位数检验(Median);中位数检验是基于数据序列的中位数而设计的一种差异性的检验。其基本思路:先求取混合后数据的中位数,然后利用卡方分布统计量来计算每个样本组内中位数两侧个案数的差异性。中位数检验适合于测度不高的定序变量。
分组分布检验(Jonckheere);分组分布检验是通过检验多个样本组是否具有相同分布来判断差异性的方法。样本的分组根据分组变量定义。分组分布检验既可以检验定距变量,也可以检验定序变量。对于定序变量,本方法比K-W检验更为有效。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数字化转型全面渗透的产业背景下,数据分析已成为互联网、金融、零售、制造等几乎所有行业的核心岗位能力。很多初学者对数据分 ...
2026-06-23在企业并购、股权定价、投融资评估、资产核算等资本市场核心场景中,市场法是应用最广泛、市场认可度最高的企业价值评估方法。传 ...
2026-06-23 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-06-23【核心关键词】运营、证书、金融、客户、产品、软件、销售额、量化、科技、数据分析、金融行业、证券类软件、业务流程、金融机 ...
2026-06-22在企业方案选型、产品迭代评审、供应商筛选、运营效果复盘等决策场景中,单一指标的优劣判断往往无法支撑科学决策。一套转化效果 ...
2026-06-22 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-06-22【核心关键词】软件、洞察力、大数据、产品、经验、硬件、流量、创新、决策、数据安全、网络安全、数据分析、决策制定、数据挖 ...
2026-06-18在方案选型、效果复盘、产品评估、供应商筛选等各类业务决策场景中,仅凭单一指标下结论往往会陷入 “以偏概全” 的误区。多维度 ...
2026-06-18 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-06-18在数据分析、用户运营与业务增长的工作体系中,漏斗拆解是最基础也最高频的问题定位方法。很多业务场景下,我们只能看到最终的转 ...
2026-06-17在数据库开发、数据清洗与报表统计场景中,数值类型转换为日期是高频刚需操作。业务系统常以 Unix 时间戳、整型日期(如20240617 ...
2026-06-17 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-06-17【核心关键词】数据库、电商、知识、产品、数据产品、监管业务、产品经理、业务系统、用户行为分析、用户分析、数据分析、电商 ...
2026-06-16在 Python 动态类型与面向对象的编程体系中,变量定义与类实例化是构建代码逻辑的两大核心基石。变量是数据存储、传递与运算的基 ...
2026-06-16 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据和表结构数据有什么区别”“数据类型误判会引发哪些分析错误” ...
2026-06-16在 MySQL 查询性能优化体系中,索引是降低查询耗时、提升数据库吞吐的核心手段。其中联合索引与覆盖索引是实际开发中最高频的两 ...
2026-06-15在数据仓库建设与商业智能分析体系中,维度建模是应用最广泛的建模方法论,而事实表与维度表是维度建模的两大核心构件,共同构成 ...
2026-06-15 很多数据分析师能熟练计算指标,但当被问到“这家企业的核心业务目标是什么”“如何把模糊的战略目标拆解为可量化的指标”“ ...
2026-06-15在数据分析、业务监控、运营复盘等场景中,列值趋势计算是核心需求之一。无论是分析销售额的月度增长、用户活跃的变化趋势、库存 ...
2026-06-12在数字经济深度渗透的当下,消费者的购买行为已从过去的 “被动接受” 转变为 “主动决策”。流量红利消退、获客成本攀升、用户 ...
2026-06-12