下面的脚本将每次实验获得的 X 平方分布统计写到一个输出文件以便稍后用图表表示。 清单 2. 将获得的 X 平方分布统计写到输出文件 <?php // simulate.php // Copyright 2003, Paul Meagher // Distributed under LGPL // Set time limit to 0 so script doesn't time out set_time_limit(0); require_once "../init.php"; require PHP_MATH . "chi/Multinomial.php"; require PHP_MATH . "chi/ChiSquare1D.php"; // Initialization parameters $NExps = 10000; $NTrials = 300; $NOptions = 3; $multi = new Multinomial($NExps, $NTrials, $NOptions); $output = fopen("./data.txt","w") OR die("file won't open"); for ($i=0; $i<$NExps; $i++) { // For each multinomial experiment, do chi square analysis $chi = new ChiSquare1D($multi->Outcomes[$i]); // Load obtained chi square value into sampling distribution array $distribution[$i] = $chi->ChiSqObt; // Write obtained chi square value to file fputs($output, $distribution[$i]."\n"); } fclose ($output); ?> 为了使运行该实验所期望获得的结果可视化,对我来说,最简单的方法就是将 data.txt 文件装入开放源码统计包 R,运行 histogram 命令,并且在图形编辑器中编辑该图表,如下所示: x = scan("data.txt") hist(x, 50) 正如您可以看到的,这些 X 平方分布值的直方图与上面表示的 df = 2 的连续 X 平方分布的分布近似。 图 3. 与 df=2 的连续分布近似的值 在下面几节中,我将侧重于说明这个模拟实验中所使用的 X 平方分布软件的工作原理。
通常情况下,X 平方分布软件将用于分析实际的定类尺度数据(例如 Web 民意测验结果、每周的流量报告或者客户品牌偏好报告),而不是您使用的模拟数据。您可能还会对该软件生成的其它输出 ― 例如汇总表和尾数概率 ― 感兴趣。 X 平方分布的实例变量 我开发的基于 php 的 X 平方分布软件包由用于分析频率数据的类构成,频率数据是按照一维或两维(ChiSquare1D.php 和 ChiSquare2D.php)进行分类的。我的讨论将仅局限于说明 ChiSquare1D.php 类的工作原理,以及说明如何将其应用于一维 Web 民意测验数据。 在继续之前,应当说明:按照两维对数据进行分类(例如,按照性别对啤酒偏好进行分类),允许您通过查找列联表单元中的系统关系或条件概率开始说明您的结果。尽管下面的许多讨论将有助于您理解 ChiSquare2D.php 软件的工作原理,但本文未讨论的其它实验、分析和可视化问题也是使用这个类之前必须处理的。
清单 3 研究了 ChiSquare1D.php 类的片段,它由以下部分构成: 1.一个被包含的文件 2.类实例变量 清单 3. 带有被包含的文件和实例变量的 X 平方分布类的片段 <?php // ChiSquare1D.php // Copyright 2003, Paul Meagher // Distributed under LGPL require_once PHP_MATH . "dist/Distribution.php"; class ChiSquare1D { var $Total; var $ObsFreq = array(); // Observed frequencies var $ExpFreq = array(); // Expected frequencies var $ExpProb = array(); // Expected probabilities var $NumCells; var $ChiSqObt; var $DF; var $Alpha; var $ChiSqProb; var $ChiSqCrit; } ?> 清单 3 中这个脚本的顶部包含了一个名为 Distribution.php 的文件。所包含的路径合并了在 init.php 文件中设置的 PHP_MATH 常量,假定 init.php 文件已包含在调用脚本中。 所包含的文件 Distribution.php 包含了为几个常用的抽样分布(T 分布、F 分布和 X 平方分布)生成抽样分布统计信息的方法。ChiSquare1D.php 类必须能够访问 Distribution.php 中的 X 平方分布方法,以计算所得到的 X 平方分布值的尾数概率。 这个类中的实例变量列表值得注意,因为它们定义了由分析过程生成的结果对象。
这个结果对象包含了有关检验的所有重要详细信息,包括三个重要的 X 平方分布统计 ― ChiSqObt、ChiSqProb 和 ChiSqCrit。关于如何计算每个实例变量的详细信息,可以查阅该类的构造函数方法,所有这些值都源自那里。 构造函数:X 平方分布检验的主干 清单 4 给出了 X 平方分布的构造函数代码,它构成了 X 平方分布检验的主干。 清单 4. X 平方分布的构造函数 <?php class ChiSquare1D { function ChiSquare1D($ObsFreq, $Alpha=0.05, $ExpProb=FALSE) { $this->ObsFreq = $ObsFreq; $this->ExpProb = $ExpProb; $this->Alpha = $Alpha; $this->NumCells = count($this->ObsFreq); $this->DF = $this->NumCells - 1; $this->Total = $this->getTotal(); $this->ExpFreq = $this->getExpFreq(); $this->ChiSqObt = $this->getChiSqObt(); $this->ChiSqCrit = $this->getChiSqCrit(); $this->ChiSqProb = $this->getChiSqProb(); return true; } } ?> 构造函数方法中值得注意的四个方面是:
1.构造函数接受一个由观察到的频率组成的数组、alpha 概率断开点(cutoff score)和一个可选的期望概率的数组。
2.前六行涉及了相对简单的赋值和被记录的计算值,以便于完整的结果对象可用于调用脚本。
3.最后四行执行大量的获取 X 平方分布统计的工作,这些统计是您最感兴趣的。
4.该类只实现 X 平方分布检验逻辑。没有与该类相关联的输出方法。 您可以研究本文的代码下载中包含的类方法,以了解关于如何计算每个结果对象值的更多信息(请参阅参考资料)。 处理输出问题 清单 5 中的代码展示了使用 ChiSquare1D.php 类执行 X 平方分布分析是多么容易。
它还演示了输出问题的处理。 该脚本调用一个名为 ChiSquare1D_HTML.php 的包装器脚本。这个包装器脚本的目的是使 X 平方分布过程的逻辑与它的表示方面相分离。_HTML 后缀表明输出针对的是标准的 Web 浏览器或其它显示 HTML 的设备。 包装器脚本的另一个目的是用便于理解数据的方式组织输出。为了达到这个目的,该类包含了两个用于显示 X 平方分布分析结果的方法。showTableSummary 方法显示了在代码后面展示的第一个输出表(表 2),而 showChiSquareStats 显示了第二个输出表(表 3)。
清单 5. 利用包装器脚本组织数据 <?php // beer_poll_analysis.php require_once "../init.php"; require_once PHP_MATH . "chi/ChiSquare1D_HTML.php"; $Headings = array("Keiths", "Olands", "Schooner", "Other"); $ObsFreq = array(285, 250, 215, 250); $Alpha = 0.05; $Chi = new ChiSquare1D_HTML($ObsFreq, $Alpha); $Chi->showTableSummary($Headings); echo "<br><br>"; $Chi->showChiSquareStats(); ?> 该脚本生成了下列输出: 表 2. 运行包装器脚本而获得的期望频率和方差 Keiths Olands Schooner 其它 合计 观察值 285 250 215 250 1000 期望值 250 250 250 250 1000 方差 4.90 0.00 4.90 0.00 9.80 表 3. 运行包装器脚本获得的各种 X 平方分布统计信息统计 DF 获得值 概率 临界值 X 平方分布 3 9.80 0.02 7.81 表 2 显示了期望频率以及每个单元的方差度量 (O - E)2 / E。方差值的和等于获得的 X 平方分布(9.80)值,这个值显示在汇总表的右下单元中。
表 3 报告了各种 X 平方分布统计信息。它包括了分析中使用的自由度,并再次报告了获得的 X 平方分布值。获得的 X 平方分布值被重新表示成尾数概率值 ― 在本例中是 0.02。这意味着,在虚假设条件下,观察到 X 平方分布极限值 9.80 的概率是 2%(这是一个相当低的概率)。
如果您决定排除虚假设 ― 结果可以按照零分布的随机抽样可变性获得,那么大多数统计师都不会有争议。您的民意测验结果更有可能反映了新斯科舍省的啤酒消费者总体对于啤酒品牌偏好的真正差别。 为了确认这一结论,可以用获得的 X 平方分布值与临界值进行比较。 为什么临界值很重要呢?临界值建立在为该分析设置的某一重要级别(即 alpha 断开级别)之上。alpha 断开值按照惯例被设置为 0.05(上述分析使用的就是该值)。该设置用于查找 X 平方分布的抽样分布中包含尾数区域等于 alpha 断开值(0.05)的位置(或临界值)。 在本文中,获得的 X 平方分布值大于临界值。这意味着超出了保持虚假设说明的阈值。
另一种假设 ― 对象总体中存在着比例差异 ― 在统计上可能更正确。 在数据流的自动化分析中,alpha 断开设置可以为知识-发现算法(例如 X 平方分布自动交互检测(Chi Square Automatic Interaction Detection,CHIAD))设置输出过滤,这样的算法自身在发现真正有用的模式方面无法为人们详细的指导。 重新进行民意测验 单向 X 平方分布检验的另一个有趣应用是重新进行民意测验,以了解人们的回答是否已发生变化。
数据分析咨询请扫描二维码
《Python数据分析极简入门》 第2节 1 Pandas简介 说好开始学Python,怎么到了Pandas? 前面说过,既然定义为极简入门,我们只抓 ...
2024-10-31在当今数据驱动的世界中,数据科学与工程专业的重要性愈发凸显。无论是推动技术进步,还是在商业决策中提供精准分析,这一专业都 ...
2024-10-30在当今信息爆炸的时代,数据已成为企业决策和战略制定的核心资源。爬虫工程师因此成为数据获取和挖掘的关键角色。本文将详细介绍 ...
2024-10-30在当今数据驱动的世界中,数据分析是揭示商业洞察和推动决策的核心力量。选择合适的数据分析工具对于数据专业人士而言至关重要。 ...
2024-10-30能源企业在全球经济和环境保护双重压力下,正面临前所未有的挑战与机遇。数字化转型作为应对这些挑战的关键手段,正在深刻变革传 ...
2024-10-30近年来,随着数据科学的逐步发展,Python语言的使用率也越来越高,不仅可以做数据处理,网页开发,更是数据科学、机器学习、深度 ...
2024-10-30大数据分析师证书 针对不同知识,掌握程度的要求分为【领会】、【熟知】、【应用】三个级别,考生应按照不同知识要求进行学习。 ...
2024-10-30《Python数据分析极简入门》 附:Anaconda安装教程 注:分Windows系统下安装和MacOS系统安装 1. Windows系统下安装 第一步清华大 ...
2024-10-29拥抱数据分析的世界 - 成为一名数据分析工程师是一个充满挑战和机遇的职业选择。要成功地进入这个领域,你需要掌握一系列关键技 ...
2024-10-28降本增效:管理战略的关键 企业管理中的降本增效不仅是一项重要的战略举措,更是激发竞争力、提高盈利能力的关键。这一理念在当 ...
2024-10-28企业数字化是指利用数字技术和信息化手段,对企业的各个方面进行改造和优化,以提升生产效率、服务质量和市场竞争力的过程。实现 ...
2024-10-28数据科学专业毕业后,毕业生可以选择从事多种不同的岗位和领域。数据科学是一个快速发展且广泛应用的领域,毕业生在企业、学术界 ...
2024-10-28学习数据科学与大数据技术是当今职业发展中至关重要的一环。从基础到高级,以下是一些建议的课程路径: 基础课程: Python编程 ...
2024-10-28在信息技术和数据科学领域,数据架构师扮演着至关重要的角色。他们负责设计和管理企业中复杂的数据基础设施,以支持数据驱动的决 ...
2024-10-28进入21世纪以来,随着信息技术的迅猛发展,大数据已经成为全球最具影响力的技术之一,并成为企业数字化转型的核心驱动力。大数据 ...
2024-10-28随着科技的迅猛发展,数字化转型已成为现代企业保持竞争力和推动增长的关键战略之一。数字化不仅仅是技术的应用,它代表着一种全 ...
2024-10-28银行业正处于一个前所未有的数字化转型时期。在数字经济的驱动下,金融科技如大数据、人工智能、生物识别、物联网和云计算等技术 ...
2024-10-28数据分析可视化是一门艺术与科学相结合的技术,其主要目标是将复杂的数据变得更易于理解和分析。通过将数据以图表的形式呈现,我 ...
2024-10-28数据分析师在现代信息密集型的商业世界中扮演着至关重要的角色。他们通过专业的技能和敏锐的商业洞察力,帮助企业从大量数据中提 ...
2024-10-28在当今快速发展的数据驱动世界中,数据专员的角色变得愈发重要。无论是在企业决策、市场分析还是产品开发中,数据专员都扮演着不 ...
2024-10-27