京公网安备 11010802034615号
经营许可证编号:京B2-20210330
对于常规的多重模型(multiple model)拟合,最基本的函数是lm()。 下面是调用它的方式的一种改进版:
>fitted.model<- lm(formula, data =data.frame)
例如
> fm2 <- lm(y ~ x1 + x2, data = production)
将会拟合 y 对 x1 和 x2 的多重回归模型(和一个隐式的截距项)。
一个重要的(技术上可选)参数是data = production。它指定任何构建这个模型的参数首先必须来自 数据框 production。 这里不需要考虑数据框 production 是否被绑定在搜索路径中。
广义线性建模是线性模型在研究响应值的非正态分布以及非线性模型的简洁直接的线性转化 时的一种发展。 广义线性模型 是基于下面一系列 假设前提的:
eta = beta_1 x_1 + beta_2 x_2 +...+ beta_p x_p,
因此 x_i 当且仅当 beta_i 等于0时对 y 的分布没有影响。
f_Y(y; mu, phi)
= exp((A/phi) * (y lambda(mu) - gamma(lambda(mu))) + tau(y, phi))
其中 phi 是度量参数(scale parameter)(可能已知),对所有观测 恒定;A 是一个先验的权重,假定知道但是 可能随观测不同有所不同;mu是 y 的均值。 也就是说假定 y 的分布是由 均值和一个可能的度量参数决定的。
mu = m(eta), eta = m^{-1}(mu) = ell(mu)
该可逆函数 ell() 称为 关联函数(link function)。
这些假定比较宽松,足以包括统计实践中大多数有用的统计模型, 但也足够严谨,使得可以发展计算和推论中一致的方法( 至少可以近似一致)。 读者如果想了解这方面最新的进展,可以 参考 McCullagh & Nelder (1989) 或者 Dobson (1990)。
R 提供了一系列广义线性建模工具,从类型上来说包括 gaussian, 二项式, poisson, 反 gaussian 和 gamma 模型的响应变量分布以及 在响应变量分布没有明确给定时的逆似然(quasi-likelihood)模型。 在后者,方差函数(variance function) 可以认为是均值的函数,但是在另外一些情况下, 该函数可以由响应变量的分布得到。
每一种响应分布允许各种关联函数将均值和线性预测器关联起来。 这些自动关联函数如 下表所示:
| Family name | Link functions |
|---|---|
| binomial | logit,probit,log,cloglog |
| gaussian | identity,log,inverse |
| Gamma | identity,inverse,log |
| inverse.aussian | 1/mu^2,identity,inverse,log |
| poisson | identity,log,sqrt |
| quasi | logit,probit,cloglog,identity,inverse,log,1/mu^2,sqrt |
这些用于模型构建过程中的响应分布,关联函数和各种 其他必要的信息统称为 广义线性模型的族(family)。
既然响应的分布仅仅通过单一的一个线性函数依赖于 刺激变量,那么用于线性模型的机制同样 可以用于指定一个广义模型的线性部分。 但是族必须以一种不同的方式指定。
R 用于广义线性回归的函数是glm(), 它的使用形式为
>fitted.model<- glm(formula, family=family.generator, data=data.frame)
和lm()相比,唯一的一个新特性就是描述族的参数family.generator。 它是产生函数和表达式列表的函数名字。这些函数 用于定义和控制模型的构建与计算过程。 尽管开始看起来有点复杂, 但它们非常容易 使用。
这些名字是标准的。程序给定的族生成器可以参见 Families 列表中 的“族名”。当选择一个关联函数时, 该关联函数名和族名可以同时在括弧里面作为 参数设定。在拟(quasi) 家族里面,方差函数也是以这种方式设定。
一些例子可能会使这个过程更清楚。
命令
> fm <- glm(y ~ x1 + x2, family = gaussian, data = sales)
和下面的命令结果一致。
> fm <- lm(y ~ x1+x2, data=sales)
但是效率上,前者差一点。注意,gaussian 族没有相关参数, 因此它不提供关联函数的。 如一个问题需要用非标准关联函数的 gaussian 族, 那么只能采用我们后面讨论的拟族。
考虑 Silvey (1970) 提供的一个小的例子。
在 Kalythos 的 Aegean 岛上,男性居民常常患有 一种先天的眼科疾病,并且随着年龄的增长而变的愈显著。 现在搜集了各种年龄段岛上男性居民的样本,同时记录了盲眼的数目。 数据显示如下:
| 年龄: | 20 | 35 | 45 | 55 | 70 |
| No. 检测: | 50 | 50 | 50 | 50 | 50 |
| No. 盲眼: | 6 | 17 | 26 | 37 | 44 |
我们想知道的是这些数据是否吻合 logistic 和 probit 模型, 并且分别估计各个模型的 LD50,也就是一个男性居民盲眼的概率 为50%时候的年龄。
如果 y 和 n 是年龄为 x 时的盲眼数目和检测 样本数目,两种模型的形式都为 y ~ B(n, F(beta_0 + beta_1 x)), 其中在 probit 模型中, F(z) = Phi(z) 是标准的正态分布函数,而在 logit 模型 (默认)中, F(z) = e^z/(1+e^z)。 这两种模型中, LD50 = – beta_0/beta_1 ,即分布函数的参数为0时 所在的点。
第一步是把数据转换成数据框。
> kalythos <- data.frame(x = c(20,35,45,55,70), n = rep(50,5),
y = c(6,17,26,37,44))
在glm()拟合二项式模型时,响应变量 有三种可能性:
我们采用的是第二种惯例。我们在数据框中 增加了一个矩阵:
> kalythos$Ymat <- cbind(kalythos$y, kalythos$n - kalythos$y)
为了拟合这些模型,我们采用
> fmp <- glm(Ymat ~ x, family = binomial(link=probit), data = kalythos)
> fml <- glm(Ymat ~ x, family = binomial, data = kalythos)
既然 logit 的关联函数是默认的,因此我们可以在第二条命令中省略该参数。 为了查看拟合结果,我们使用
> summary(fmp)
> summary(fml)
两种模型都拟合的很好。为了计算 LD50,我们可以 利用一个简单的函数:
> ld50 <- function(b) -b[1]/b[2]
> ldp <- ld50(coef(fmp)); ldl <- ld50(coef(fml)); c(ldp, ldl)
从这些数据中得到的年龄分别是43.663年和 43.601年。
在 Poisson 族中,默认的关联函数是log。在实际操作中, 这一族常常用于拟合计数资料的 Poisson 对数线性模型。 这些计数资料的实际分布往往符合二项式分布。 这是一个非常重要而又庞大的话题,我们不想在这里深入展开。 它构成了非-gaussian 广义模型内容 的很大一部分。
有时候,实践中产生的 Poisson 数据在对数或者平方根 转化后可当作正态数据处理。 作为后者的另一种选择是,一个 Poisson 广义线性模型可以通过下面的例子 拟合:
> fmod <- glm(y ~ A + B + x, family = poisson(link=sqrt),
data = worm.counts)
对于所有的族,响应变量的方差依赖于均值并且拥有 作为系数(multiplier)的尺度参数。 方差对均值的依赖方式是响应分布的一个特性; 例如对于poisson分布 Var(y) = mu。
对于拟似然估计和推断,我们不是设定精确的响应分布而是 设定关联函数和方差函数的形式。因为关联函数和方差函数都依赖于均值。 既然拟似然估计 和 gaussian 分布使用的技术非常相似, 因此这一族顺带提供了一种用非标准关联函数或者方差函数 拟合gaussian模型的 方法。
例如,考虑非线性回归的拟合 y = theta_1 z_1 / (z_2 – theta_2) + e 同样还可以写成 y = 1 / (beta_1 x_1 + beta_2 x_2) + e 其中 x_1 = z_2/z_1, x_2 = -1/x_1, beta_1 = 1/theta_1, and beta_2 = theta_2/theta_1。 假如有适合的数据框,我们可以如下 进行非线性拟合
> nlfit <- glm(y ~ x1 + x2 - 1,
family = quasi(link=inverse, variance=constant),
data = biochem)
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析实战中,我们经常会遇到“多指标冗余”的问题——比如分析企业经营状况时,需同时关注营收、利润、负债率、周转率等十 ...
2026-02-04在数据分析场景中,基准比是衡量指标表现、评估业务成效、对比个体/群体差异的核心工具,广泛应用于绩效评估、业务监控、竞品对 ...
2026-02-04业务数据分析是企业日常运营的核心支撑,其核心价值在于将零散的业务数据转化为可落地的业务洞察,破解运营痛点、优化业务流程、 ...
2026-02-04在信贷业务中,违约率是衡量信贷资产质量、把控信用风险、制定风控策略的核心指标,其统计分布特征直接决定了风险定价的合理性、 ...
2026-02-03在数字化业务迭代中,AB测试已成为验证产品优化、策略调整、运营活动效果的核心工具。但多数业务场景中,单纯的“AB组差异对比” ...
2026-02-03企业战略决策的科学性,决定了其长远发展的格局与竞争力。战略分析方法作为一套系统化、专业化的思维工具,为企业研判行业趋势、 ...
2026-02-03在统计调查与数据分析中,抽样方法分为简单随机抽样与复杂抽样两大类。简单随机抽样因样本均匀、计算简便,是基础的抽样方式,但 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02B+树作为数据库索引的核心数据结构,其高效的查询、插入、删除性能,离不开节点间指针的合理设计。在日常学习和数据库开发中,很 ...
2026-01-30在数据库开发中,UUID(通用唯一识别码)是生成唯一主键、唯一标识的常用方式,其标准格式包含4个短横线(如550e8400-e29b-41d4- ...
2026-01-30商业数据分析的价值落地,离不开标准化、系统化的总体流程作为支撑;而CDA(Certified Data Analyst)数据分析师,作为经过系统 ...
2026-01-30在数据分析、质量控制、科研实验等场景中,数据波动性(离散程度)的精准衡量是判断数据可靠性、稳定性的核心环节。标准差(Stan ...
2026-01-29在数据分析、质量检测、科研实验等领域,判断数据间是否存在本质差异是核心需求,而t检验、F检验是实现这一目标的经典统计方法。 ...
2026-01-29统计制图(数据可视化)是数据分析的核心呈现载体,它将抽象的数据转化为直观的图表、图形,让数据规律、业务差异与潜在问题一目 ...
2026-01-29箱线图(Box Plot)作为数据分布可视化的核心工具,能清晰呈现数据的中位数、四分位数、异常值等关键统计特征,广泛应用于数据分 ...
2026-01-28在回归分析、机器学习建模等数据分析场景中,多重共线性是高频数据问题——当多个自变量间存在较强的线性关联时,会导致模型系数 ...
2026-01-28数据分析的价值落地,离不开科学方法的支撑。六种核心分析方法——描述性分析、诊断性分析、预测性分析、规范性分析、对比分析、 ...
2026-01-28在机器学习与数据分析领域,特征是连接数据与模型的核心载体,而特征重要性分析则是挖掘数据价值、优化模型性能、赋能业务决策的 ...
2026-01-27关联分析是数据挖掘领域中挖掘数据间潜在关联关系的经典方法,广泛应用于零售购物篮分析、电商推荐、用户行为路径挖掘等场景。而 ...
2026-01-27