
作者:丁点helper
来源:丁点帮你
前面的文章主要介绍了回归的一些关键词,比如回归系数、样本和总体回归方程、预测值和残差等,今天我们结合一个案例来看看如何做完整的回归分析,准确而言,是多重线性回归(Multiple Linear Regreesion)。
回顾:多重线性回归
多重线性回归,一般是指有多个自变量X,只有一个因变量Y。前面我们主要是以简单线性回归为例在介绍,两者的差距主要在于自变量X的数量,在只有一个X时,就称简单线性回归。
在实际应用中,我们当然很少只纳入一个自变量。多重线性回归一般也叫“多元线性回归”,我更支持“多重”的叫法,因为“多元”一般也指“因变量Y”有多个。
通过前面的文章,我们知道做线性回归就是要构建Y与X的线性关系,主要目的有两个,一是确定X对Y的影响程度(即回归系数的计算);二是通过X来预测Y。
这里最重要的一条准则是:Y需要是定量变量,就是类似于“收入”、“得分”等。而对X没有这样的要求,可以是定量的,如“教育年限”、“年龄”等;也可以是“性别”、“民族”等分类变量。
案例 从某高校三年级女生体检的数据中,随机抽取20名作为样本,数据包括体重(kg)、胸围(cm)、肩宽(cm)及肺活量(L),分析女大学生肺活量的影响因素,数据见下表:
首先简单看看上表的数据,我们想要研究女生肺活量的影响因素,所以回归的因变量为“肺活量(Y)”,根据常识和数据,这里的Y是定量变量。
搜集的其他数据作为潜在的影响因素(X)纳入回归方程,分别是:体重、胸围、肩宽。我们也能简单就能判断这三个自变量都是定量变量。
(对于变量类型如何判断还不太了解的同学,戳此回顾)
这里进行回归分析,一是判断这些X是否都会影响Y(总体回归系数是否不为0);二是通过构造的回归方程,未来根据X的值计算Y的预测值。
多重线性回归的SPSS操作
回归分析用SPSS操作的步骤如下:
SPSS数据录入格式
回归操作窗口,Dependent为因变量,Independent为自变量,分别移入
上图中的“Method”称作“自变量筛选”方法,我们做线性回归分析很重要的一点是找Y的影响因素,这里的“找”就意味着“筛选”。
比如本案例我们纳入了三个自变量,通过回归分析,就是要找到那些真正对Y产生影响的变量。最终的结果有可能三个X都有影响,则最终的回归方程会有三个X,也有可能一个X都没有。
我们看到Method的下拉菜单有不同的选项:
Enter:将自变量强行全部纳入回归方程,不排除回归系数P值大于0.05的情况;
Stepwise、Remove、Backward、Forward,这些都是软件筛选自变量的方法,虽然名称不一,但思想相近,主要就是根据回归系数检验的P值是否小于0.05(有的是0.1)判断回归方程中应不应该有这个变量。
一般来讲,没有哪个筛选方法最优,但实际应用中常见的是Stepwise和Backward,建议大家自己进行回归分析时可以更换不同的方法尝试,选择自己认为合适的方法。
本案例使用Stepwise法,中文称为“逐步法”或“步进法”。
多重线性回归的结果分析
以下为SPSS分析结果展示:
表1:回归方程的拟合程度
上表最左侧一列为“Model”,表示的是SPSS筛选变量的过程,因为我们选择的是stepwise,所以每进行一步,即每筛选一个变量,就称为一个Model,比如Model"1"表示只纳入1个自变量,Model“2”表示纳入2个,“3”表示纳入3个,”4“表示最终模型剔除了一个自变量,仅纳入2个自变量。
表格第2-4列分别为”R、R Square、Adjusted R Square“,一般的教科书讲的很多,表示的是回归方程对因变量的解释程度,数值越大,解释度越高。但它又是一个比较尴尬的数,实际应用简单参考即可。
表2:回归方程的整体检验
这里的Model和上表1中表示的是同一个意思,代表了包括不同自变量的回归方程。对于回归方程的检验,一般来讲,都是有统计学意义的,看最后一列(Sig.),即P值均小于0.05。
表3:回归系数结果
表3中的Model详细展示了变量的筛选过程,比如在Model 3中,回归方程将三个自变量”肩宽、体重、胸围“全部纳入,但是发现,”肩宽“这个变量的Sig.(P值)大于0.1了,于是就将它剔除出去,从而得到模型4——只纳入”体重和胸围“两个自变量,对照后面的P值结果,均小于0.05。
以上只是一种筛选变量的一种方法(Stepwise),通过统计软件P值自动进行,这并不意味,所有的线性回归分析均只能通过这种方法筛选,我们常说需要结合专业知识判断,在做回归分析时也不例外。
如果回归分析的结果与专业知识相悖,比如根据专业知识有影响的变量却被软件剔除,那我们首先得慎重思考回归的结果是否可信,比如是否满足前文提及的LINE条件,是否出现了多重共线性问题等等;如果经过诊断分析发现这些问题都不存在,在研究报告或论文中,仍可以如实地报告结果,为后面的研究提供参考。
本案例,我们还是依照统计软件的结果筛选变量,得到的最终回归方程为:
根据上表,我们写出本研究的回归方程:
上述结果表示,可以认为体重和胸围是影响该校一年级女大学生肺活量的主要因素,保持胸围不变,体重增加1kg,估计肺活量平均增加0.081L(回归系数”0.081“的含义,在多重线性回归分析中也可称作”偏回归系数“);保持体重不变,胸围增大1cm,估计肺活量平均增加0.046L(回归系数”0.046“的含义)。
另外,上表最后一列提供了一个”标准化偏回归系数“,这是将XY分别标准化之后再进行回归分析,如下:
”标准化偏回归系数“可以用来比较不同的自变量X对Y的影响程度。本例中,体重和胸围的标准化偏回归系数分别为0.644和0.436,意味着体重对肺活量的影响大于胸围对肺活量的影响。
以上即为回归分析的全过程,最后留给大家一个思考题,这里进行的分析,表示的是X和Y的相关关系,还是因果关系?欢迎在评论区留言讨论。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
评判两组数据与初始数据准确值的方法 在数据分析与研究中,我们常常会面临这样的情况:需要对通过不同方法、不同过程得到的两组 ...
2025-08-01通过 COX 回归模型诊断异常值 一、COX 回归模型概述 COX 回归模型,又称比例风险回归模型,是一种用于生存分析的统计方法。它能 ...
2025-08-01CDA 数据分析师报考条件详解:迈向专业认证的指南 在数据分析行业蓬勃发展的当下,CDA 数据分析师认证成为众多从业者提升专业 ...
2025-08-01K-S 曲线、回归与分类:数据分析中的重要工具 在数据分析与机器学习领域,K-S 曲线、回归和分类是三个核心概念与工具,它们各 ...
2025-07-31大数据时代对定性分析的影响 在大数据时代,海量、多样、高速且低价值密度的数据充斥着我们的生活与工作。而定性分析作为一 ...
2025-07-31CDA含金量分析 在数字经济与人工智能深度融合的时代,数据驱动决策已成为企业核心竞争力的关键要素。CDA(Certified Data Analys ...
2025-07-31SASEM 决策树:理论与实践应用 在复杂的决策场景中,如何从海量数据中提取有效信息并制定科学决策,是各界关注的焦点。SASEM 决 ...
2025-07-30SPSS 语法使用详解 在当今数据驱动的时代,SPSS( Statistical Package for the Social Sciences)作为一款功能强大的统计分析软 ...
2025-07-30人工智能对CDA数据分析领域的影响 人工智能对 CDA(Certified Data Analyst,注册数据分析师)数据分析领域的影响是全方位、多层 ...
2025-07-30MySQL执行计划中rows的计算逻辑:从原理到实践 MySQL 执行计划中 rows 的计算逻辑:从原理到实践 在 MySQL 数据库的查询优化中 ...
2025-07-29左偏态分布转正态分布:方法、原理与实践 左偏态分布转正态分布:方法、原理与实践 在统计分析、数据建模和科学研究中,正态分 ...
2025-07-29CDA 数据分析师的职业生涯规划:从入门到卓越的成长之路 在数字经济蓬勃发展的当下,数据已成为企业核心竞争力的重要来源,而 CD ...
2025-07-29CDA数据分析师证书考取全攻略 一、了解 CDA 数据分析师认证 CDA 数据分析师认证是一套科学化、专业化、国际化的人才考核标准, ...
2025-07-29解析神经网络中 Softmax 函数的核心作用 在神经网络的发展历程中,激活函数扮演着至关重要的角色,它们为网络赋予了非线性能力, ...
2025-07-29解析 response.text 与 response.content 的核心区别 在网络数据请求与处理的场景中,开发者经常需要从服务器返回的响应中提取数 ...
2025-07-29鸢尾花判别分析:机器学习中的经典实践案例 在机器学习的世界里,有一个经典的数据集如同引路明灯,为无数初学者打开了模式识别 ...
2025-07-29用 Python 开启数据分析之旅:从基础到实践的完整指南 在数据驱动决策的时代,数据分析已成为各行业不可或缺的核心能力。而 Pyt ...
2025-07-29从 CDA LEVEL II 考试题型看 Python 数据分析要点 在数据科学领域蓬勃发展的当下,CDA(Certified Data Analyst)认证成为众多从 ...
2025-07-29CDA 数据分析师的工作范围解析 在数字化时代的浪潮下,数据已成为企业发展的核心资产之一。CDA(Certified Data Analyst)数据分 ...
2025-07-29解析 insert into select 是否会锁表:原理、场景与应对策略 在数据库操作中,insert into select 是一种常用的批量数据插入语句 ...
2025-07-29