置信区间、显著性检验和统计学意义
置信区间
估计参数真值所在的范围通常以区间的形式给出,同时还给出此区间包含参数真值的可信程度,这种形式的估计称为区间估计,这样的区间称为置信区间。
对于任意参数θ在可能的取值范围内,P{θ1<θ<θ2}≥1-α,则称随机区间(θ1,θ2)是参数θ的置信水平为1-α的置信区间,θ1和θ2分别称为置信水平为1-α的双侧置信区间的置信下限和置信上限,1-α称为置信水平。
对于特殊问题,我们关心的是重点在于参数θ的上限或下限,比如对于设备的使用寿命,关心平均寿命的“下限”;对于药品中杂质含量,关心平均含量的“上限”。对于任意参数θ在可能的取值范围内,P{θ<θ2}≥1-α或P{θ>θ1}≥1-α,则称随机区间(-∞,θ2)或(θ1,∞)是参数θ的置信水平为1-α的单侧置信区间,θ1和θ2分别称为置信水平为1-α的单侧置信下限和单侧置信上限。
显著性检验
统计推断(statistical inference),是根据带随机性的观测数据(样本)以及问题的条件和假定(模型),而对未知事物,作出的以概率形式表述的推断。主要包括参数估计和假设检验。
参数估计包括点估计和区间估计。点估计包括矩估计法和最大似然估计法。
假设检验:在总体的分布函数完全未知或只知其形式、但不知其参数的情况,为了推断总体的某些未知特性,提出某些关于总体的假设。再根据样本,对所提出的假设作出是接受,还是拒绝的决策。假设检验是作出这一决策的过程。
对两者有无显著性差异的判断是在显著性水平α之下作出的。显著性水平α为满足原假设时,发生不可能事件的概率的上限。如果样本发生的概率小于显著性水平α,证明小概率事件(不可能事件)发生了,样本与假设的差异是显著的,故拒绝原假设;否则,接受原假设。显著性水平α即为拒绝原假设的标准。P值和sig值表示在原假设的条件下,样本发生的概率,也是拒绝原假设的依据。
由于检验法则是根据样本作出的,总有可能作出错误的决策。在原假设为真时,可能犯拒绝原假设的错误,称这类“弃真”的错误为第一类错误;在原假设为不真时,有可能接受原假设,称这类“取伪”的错误为第二类错误。
一般来说,我们总是控制第一类错误的概率,使它不大于显著性水平α。α的大小视具体情况而定,通常取0.1,0.05,0.01,0.005 等值。只对第一类错误的概率加以控制,而不考虑第二类错误的概率的检验,称为显著性检验。区分双边假设检验和单边假设检验。
无论是显著性相关,还是显著性差异,显著性表示的意义为出现该情况的概率大于1-α。
Z检验:单个总体,方差已知,关于均值的检验。
T检验:单个总体,方差未知,关于均值的检验;两个总体,方差相同,关于均值差的检验;两个总体,方差未知,配对出现,关于均值差的检验(配对t检验:配对求差值,构成单个总体)。
卡方检验:单个总体,均值未知,关于方差的检验。
F检验:两个总体,均值未知,关于方差的检验。
T检验、F检验和统计学意义(P值或sig值)
1. T检验和F检验的由来
一般而言,为了确定从样本(sample)统计结果推论至总体时所犯错的概率,我们会利用统计学家所开发的一些统计方法,进行统计检定。
通过把所得到的统计检定值,与统计学家建立了一些随机变量的概率分布(probability distribution)进行比较,我们可以知道在多少%的机会下会得到目前的结果。倘若经比较后发现,出现这结果的机率很少,亦即是说,是在机会很少、很罕有的情况下才出现;那我们便可以有信心的说,这不是巧合,是具有统计学上的意义的(用统计学的话讲,就是能够拒绝虚无假设null hypothesis,Ho)。相反,若比较后发现,出现的机率很高,并不罕见;那我们便不能很有信心的直指这不是巧合,也许是巧合,也许不是,但我们没能确定。
F值和t值就是这些统计检定值,与它们相对应的概率分布,就是F分布和t分布。统计显著性(sig)就是出现目前样本这结果的机率。
2. 统计学意义(P值或sig值)
19楼空间eo-{y"k8w%p~;u结果的统计学意义是结果真实程度(能够代表总体)的一种估计方法。专业上,p值为结果可信程度的一个递减指标,p值越大,我们越不能认为样本中变量的关联是总体中各变量关联的可靠指标。p值是将观察结果认为有效即具有总体代表性的犯错概率。如p=0.05提示样本中变量关联有5%的可能是由于偶然性造成的。即假设总体中任意变量间均无关联,我们重复类似实验,会发现约20个实验中有一个实验,我们所研究的变量关联将等于或强于我们的实验结果。(这并不是说如果变量间存在关联,我们可得到5%或95%次数的相同结果,当总体中的变量存在关联,重复研究和发现关联的可能性与设计的统计学效力有关。)在许多研究领域,0.05的p值通常被认为是可接受错误的边界水平。
通常,原假设为无差别,若P值小于边界水平(比如0.05),小概率事件发生了,推翻原假设,认为差别是显著的。
所有的检验统计都是正态分布的吗
并不完全如此,但大多数检验都直接或间接与之有关,可以从正态分布中推导出来,如t检验、f检验或卡方检验。这些检验一般都要求:所分析变量在总体中呈正态分布,即满足所谓的正态假设。许多观察变量的确是呈正态分布的,这也是正态分布是现实世界的基本特征的原因。当人们用在正态分布基础上建立的检验分析非正态分布变量的数据时问题就产生了,(参阅非参数和方差分析的正态性检验)。这种条件下有两种方法:一是用替代的非参数检验(即无分布性检验),但这种方法不方便,因为从它所提供的结论形式看,这种方法统计效率低下、不灵活。另一种方法是:当确定样本量足够大的情况下,通常还是可以使用基于正态分布前提下的检验。后一种方法是基于一个相当重要的原则产生的,该原则对正态方程基础上的总体检验有极其重要的作用。即,随着样本量的增加,样本分布形状趋于正态,即使所研究的变量分布并不呈正态。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
数据分析在当今信息时代发挥着重要作用。单因素方差分析(One-Way ANOVA)是一种关键的统计方法,用于比较三个或更多独立样本组 ...
2025-04-25CDA持证人简介: 居瑜 ,CDA一级持证人国企财务经理,13年财务管理运营经验,在数据分析就业和实践经验方面有着丰富的积累和经 ...
2025-04-25在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-24以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《刘静:10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda ...
2025-04-23大咖简介: 刘凯,CDA大咖汇特邀讲师,DAMA中国分会理事,香港金管局特聘数据管理专家,拥有丰富的行业经验。本文将从数据要素 ...
2025-04-22CDA持证人简介 刘伟,美国 NAU 大学计算机信息技术硕士, CDA数据分析师三级持证人,现任职于江苏宝应农商银行数据治理岗。 学 ...
2025-04-21持证人简介:贺渲雯 ,CDA 数据分析师一级持证人,互联网行业数据分析师 今天我将为大家带来一个关于用户私域用户质量数据分析 ...
2025-04-18一、CDA持证人介绍 在数字化浪潮席卷商业领域的当下,数据分析已成为企业发展的关键驱动力。为助力大家深入了解数据分析在电商行 ...
2025-04-17CDA持证人简介:居瑜 ,CDA一级持证人,国企财务经理,13年财务管理运营经验,在数据分析实践方面积累了丰富的行业经验。 一、 ...
2025-04-16持证人简介: CDA持证人刘凌峰,CDA L1持证人,微软认证讲师(MCT)金山办公最有价值专家(KVP),工信部高级项目管理师,拥有 ...
2025-04-15持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。在实际生活中,我们可能会 ...
2025-04-14在 Python 编程学习与实践中,Anaconda 是一款极为重要的工具。它作为一个开源的 Python 发行版本,集成了众多常用的科学计算库 ...
2025-04-14随着大数据时代的深入发展,数据运营成为企业不可或缺的岗位之一。这个职位的核心是通过收集、整理和分析数据,帮助企业做出科 ...
2025-04-11持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。 本次分享我将以教培行业为 ...
2025-04-11近日《2025中国城市长租市场发展蓝皮书》(下称《蓝皮书》)正式发布。《蓝皮书》指出,当前我国城市住房正经历从“增量扩张”向 ...
2025-04-10在数字化时代的浪潮中,数据已经成为企业决策和运营的核心。每一位客户,每一次交易,都承载着丰富的信息和价值。 如何在海量客 ...
2025-04-09数据是数字化的基础。随着工业4.0的推进,企业生产运作过程中的在线数据变得更加丰富;而互联网、新零售等C端应用的丰富多彩,产 ...
2025-04-094月7日,美国关税政策对全球金融市场的冲击仍在肆虐,周一亚市早盘,美股股指、原油期货、加密货币、贵金属等资产齐齐重挫,市场 ...
2025-04-08背景 3月26日,科技圈迎来一则重磅消息,苹果公司宣布向浙江大学捐赠 3000 万元人民币,用于支持编程教育。 这一举措并非偶然, ...
2025-04-07在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03