京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据分析方法:非参数检验
前面介绍了T检验和方差分析,它们解决的是正态分布的高测度数据的均值差异性问题。对于非正态分布的高测度数据,T检验或方差分析的方法就不再适用了。
均值差异性的检验方法:Z检验和T检验综述;
均值差异性检验:方差分析综述;
对于分布形态未知的数据,常用处理方法如下:
判断数据序列的分布形态
以标准的正态分布形态为基准,检验数据序列与正态序列是否存在分布差异性,这里可以用单样本的K-S检验,如果没有显著性差异,就认为该序列满足正态分布。对于已经满足正态分布的序列,可以直接使用基于正态分布的数据分析技术,比如T检验和方差分析。
转化为正态分布序列
明确不是正态分布的序列,可以通过技术手段将序列转化为接近正态分布的形态。在数据分析过程中,人们常常借助于秩分把非正态分布的数据转化为接近正态分布的形态;或者借助于Z分数和正态得分对数据序列进行预处理,然后借助正态分布差异性分析结束实现差异显著性检验。
非参数检验方法
除了转化为正态分布序列,还可直接使用非参数检验方法检验其分布差异性。实际上,所谓的非参数检验,其实质就是借助于秩分或符号等技术对原始序列进行转化,然后借用类似参数检验的手段开展数据分析。
非参数检验
前面说到,对于不符合正态分布的数据,可以采用非参数检验的方法进行数据分析。在这里,不符合正态分布的数据可以分为两种:1、不符合正态分布的高测度数据(定距数据和高测度的定序数据);2、低测度数据(定类数据和低测度的定序数据)。根据上面两种数据类型,非参数检验主要包括下面三个方面的内容:
检验样本的分布形态
检验高测度数据序列的分布形态,这是针对单变量的检验,其方法是检验数据序列的分布与标准分布形态的差异性。如果当前数据序列与标准分布形态没有显著性差异,则被认为当前序列满足该分布形态。常见的针对单样本数据判断其分布形态的检验技术主要有:单样本K-S检验、单样本游程检验、二项分布检验、卡方检验。
分布形态差异显著性检验
对于不符合正态分布的高测度数据序列,常见的差异显著性检验方法有:1、两独立样本的差异显著性检验;2、多独立样本的差异显著性检验;3、两关联样本的差异显著性检验;4、多关联样本的差异显著性检验。
低测度数据的差异显著性检验
对于不符合正态分布的定类数据或低测度定序数据,其检验方法是利用交叉表技术分行分列计算交叉点的频数,利用卡方距离实施卡方检验,基于频数和数据分布形态分析不同类别的数据是否存在显著性差异。对于定类数据的对比检验,也叫独立性检验。
分布形态差异显著性检验
分布形态检验前面已经介绍过,低测度数据的卡方检验将在下一篇文章中介绍。下面重点介绍对于非正态分布的高测度数据的分布形态差异显著性检验方法。
两关联样本的非参数检验
对不满足正态分布的两关联样本,如果分析其是否存在显著性差异,不可以通过均值比较其差异性,通常是通过对比其分布形态比较其差异性。
数据序列的三个要求:1、样本数据来源于同一总体的不同视角,或者是对相同样本的多次测量;2、几组样本数据之间存在一一对应的关联性;3、数据不满足正态分布,或样本的测量区分度不高。
两关联样本非参数检验的方法
符号秩检验(Wilcoxon);基于符号检验其秩分分布的办法,本质上是一种检验平均秩的检验。即把样本的两次观测值相减,记录差值的符号和绝对值,并基于绝对值升序求秩分,比较两组数据的正值秩分或负值秩分,从而确定其差异性。
符号检验(Sign);纯粹通过符号实施数据检验的一种方法,即对样本的两次测量值直接相减求取符号,然后根据符号情况确定其差异性。由于符号检验仅仅通过正负号进行检验,适合于测度较低的非定距数据,其检验准确度不够高。
变化显著性检验(McNemar);变化显著性检验,是基于两次测量差值情况的检验方法。即把样本的两次测量值相减,记录差值,然后通过校验公式处理后,求取卡方值。然后基于卡方检验决定其差异性。变化显著性检验,仅适用于两个变量均为二分数据的情况。
边缘一致性检验(MarginalHomo);边缘一致性检验,也是基于两次测量差值情况的检验方法,主要通过把先后测量的两组样本值进行卡方检验。基于卡方检验的方法判断序列之间差异性。边缘一致性检验,对变量的要求并不局限于二分数据,还可以面向多值的分类变量。
多关联样本的非参数检验
当关联样本多于两个时,需要用多关联样本的非参数检验。多关联样本的非参数检验方法主要有:
双向等级方差分析(FriedMan);双向等级方差分析是基于K个变量降序秩分的差异显著性检验。这是基于秩分的一种方差分析方法,其基本思路是先对样本的K个检验量进行降序求秩分,然后按照秩分做方差分析。双向等级方差分析,比较适合于针对定距变量和高测度定序变量的数据分析。
肯德尔和谐系数检验(Kendall);肯德尔和谐系数检验,是基于肯德尔系数的差异显著性检验技术,是基于秩分的平均等级分析。其基本思路是:先计算K个观测量卡方值和肯德尔和谐系数W,然后判断其观测值的分布是否一致。在肯德尔和谐系数检验中,以肯德尔和谐系数W表示被检验变量的秩分之间的差异程度。协同系数W的取值在0~1,W越接近于1,表示变量的组件差异越大,反之,协同系数W越接近于0,表示变量的组间差异越小。肯德尔和谐系数检验,比较适合于定距变量与定序变量的处理。
二分变量检验(Cochran检验);二分变量检验,通过检验多个样本量的CochranQ系数,以便分析K各关联样本是否来自同一总体或者具有相同的分布。二分变量检验,主要面向二分变量的分析。
两独立样本的非参数检验
对不满足正态分布的两独立样本,如需要分析其是否存在显著性差异,同样不可以通过均值比较其差异性,通常是通过分布形态或秩分比较其差异性。对于两独立样本的非参数检验,对数据序列主要有以下要求:1、样本数据来源于同一总体;2、样本数据不满足正态分布,或样本的测量区分度不高;3、样本数据可被另外的分组变量划分为两组;
两独立样本非参数检验的方法
Wilcxon W等级和检验(Mann-Whitney U);Wilcxon W(威尔克科逊)等级与检验,也叫曼-惠特尼U检验,其基本思路是:把全部样本混在一起求秩,然后根据两组样本的秩分情况判断是否存在差异。曼-惠特尼U检验本质上是一种通过比较两个样本秩分情况而获得差异显著性检验结论的一种检验技术。本算法适应于定距数据和定序数据。
摩西极端反映的差异检验(MosesExtreme reaction);摩西极端反映检验,即摩西极端反映的差异显著性检验,即对全体样本混合求秩分,根据两端的极端秩分值确定其差异性。摩西极端反映检验是通过检验极端秩分值来反映的差异情况,来判断两组数据的分布是否存在差异。
两独立样本的K-S检验(Kolmogorov-Smirnov Z);两独立样本的K-S检验,是基于秩分累积频数的检验方式。即对全体样本混合求取秩分,然后针对秩分的累积频数或累积频率进行差异显著性检验。本算法适应于定距数据和定序数据。如果预先把其中一组数据设置为标准分布形态的数据,那么通过K-S分析待检验序列与标准分布的差异性水平,就能实现针对单样本数据的分布形态的判定。
沃尔德-沃尔福威茨游程检验(Wald-Wolfwitz runs);沃尔德-沃尔夫威茨游程检验,是基于秩分排列的游程检验。即对全体样本混合求取秩分,并基于两组样本在秩分序列中的位置构造游程。通过分析游程的大小和数量实现游程检验,从而判断两组样本在混合序列中的排列是否为随机的。若两组样本在混合序列中的排列是随机的,则两组样本之间没有显著性差异。
多独立样本的非参数检验
多独立样本的差异显著性检验既可以是针对同一总体的不同随机抽样,也可以源于不同总体,其目的是判断多个样本序列的差异是否显著。在多独立样本的差异显著性检验中,对符合正态分布的高测度数据,通常使用方差分析的方法,而对不符合正态分布的数据,或者方差非齐性时,则常常使用非参数检验的方法。
多独立样本非参数检验的方法
K-W平均秩检验(Kruskal-Wailis H);K-W平均秩检验是一种基于平均秩的差异显著性检验。其基本思路是:先把待分析的观测变量序列排序后求取秩分(或者把多个独立样本的数据混合后排序并求取秩分),然后基于各组秩分,进行类似方差分析的计算,分析秩分的均值差异是否显著。K-W平均秩检验是基于秩分的一种方差分析技术,适合于观测变量为定距数据或定序数据的场合。
中位数检验(Median);中位数检验是基于数据序列的中位数而设计的一种差异性的检验。其基本思路:先求取混合后数据的中位数,然后利用卡方分布统计量来计算每个样本组内中位数两侧个案数的差异性。中位数检验适合于测度不高的定序变量。
分组分布检验(Jonckheere);分组分布检验是通过检验多个样本组是否具有相同分布来判断差异性的方法。样本的分组根据分组变量定义。分组分布检验既可以检验定距变量,也可以检验定序变量。对于定序变量,本方法比K-W检验更为有效。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数字化市场调研体系中,大数据与小数据是两类核心调研数据形态,分别对应海量行为统计与精准样本深度调研。行业普遍存在认知误 ...
2026-08-07数据透视表是Excel、WPS中最核心的数据分析工具,凭借快速汇总、分组统计、动态筛选的优势,被广泛应用于销量统计、业绩复盘、数 ...
2026-08-07 很多数据分析师每天盯着GMV、DAU、转化率,但当被问到“哪些指标在所有行业都适用”“哪些指标只对电商有意义”“二者如何搭 ...
2026-08-07在商品销量、市场需求、营收规模等业务数据中,季节性波动是最普遍、最核心的数据特征。零售快消、食品餐饮、家电服饰、电商行业 ...
2026-08-06在流量红利消退、市场竞争白热化的商业环境中,传统依托经验、跟风投放、广撒网式的营销模式,逐渐暴露出成本高、精准度低、转化 ...
2026-08-06 很多数据分析师每天盯着GMV、DAU、转化率,但当被问到“什么是指标”“指标和维度有什么区别”“如何定义指标值的计算规则和 ...
2026-08-06【核心关键词】知识、设备、工程师、数字化、建模、算法、工业大数据、数据分析、控制算法、机器学习、深度学习、业务目标、工 ...
2026-08-05增长率是数据分析、业务报表、可视化看板中最核心的指标之一,常用于衡量营收、销量、用户量、流量等业务数据的涨跌幅度与发展趋 ...
2026-08-05小陈是某电商平台的数据分析师。老板交给他一个任务:“我们平台的注册用户已经突破1000万了,想了解一下用户的平均月消费金额。 ...
2026-08-05在机器学习建模、数据预处理、抽样划分、模型初始化训练的全流程中,随机种子是控制实验随机性、保证结果可复现、提升模型稳定性 ...
2026-08-04Python作为面向对象的主流编程语言,核心编程体系由变量、方法、类三大基础要素构成。三者层层递进、相互协作,支撑起所有基础代 ...
2026-08-04 很多数据分析师沉迷于复杂的机器学习算法,却忽略了数据分析最基础也最核心的能力——描述性统计。事实上,80%的商业分析问 ...
2026-08-04为什么学习数据分析? 当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运 ...
2026-08-03CDA等级认证证书有效期为三年,三年进行一次年审,主要考察CDA持证人的职业发展情况;学历、工作单位及职业变更情况;继续教育 ...
2026-08-03【核心关键词】金融、岗位、企业、算法、知识、专业、理论、课程、软件、数据分析、业务类型、应用场景、经营管理、大型企业、 ...
2026-08-03在日常数据分析、业务报表复盘、业绩预测工作中,平均增长率是衡量数据长期变化趋势的核心指标,广泛用于营收增长、用户增长、销 ...
2026-08-03很多人把统计学理解为“一堆公式和计算”,却忽略了它的本质——一门让数据“开口说话”的科学。真正的数据分析高手,不是会算平 ...
2026-08-03在数据指标体系搭建工作中,从业者常困惑于指标搭建的核心逻辑:究竟是依托一线零散数据自下而上汇总指标,还是基于战略目标自上 ...
2026-07-31在数据分析、问卷研究、实验复盘、业务建模的工作中,大多数人最关注的是“用什么统计方法”:是做T检验、方差分析、卡方检验, ...
2026-07-31 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-07-31