京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代下数学建模还有作用吗
一直以来很想回答这个问题。只是后来发现我想说的很多回答者已经回答过了。今天看了「拒绝用QQ邮箱发应聘邮件的求职者是否合理?」的有关讨论,突然发现,在这个问题里面,可以把我的「没处答的一些话」写下来。
我曾经有一次讨论过有关机器学习的事情,我很相信这样的方法可以为我们「解决」某些问题提供帮助,但是他对这些方法很不喜欢,因为「解决」问题跟「理解」问题是两码事。大数据时代的各种统计学习方法可以为我们解决许多问题,但我们却不知道为什么会这样。
有了大数据,我们直接从数据里面就得出来很多奇妙的结论。例如杨宣指出的,在「不通过」这个分类之下,qq 邮箱是概率排名前五的强特征。这就是「大数据时代」(或者其它各种各样类型的「实证研究」)为我们解决的一个问题——至少 HR 们筛掉 qq 邮箱在统计的意义上是有些理性依据的。
但是是不是有什么东西被我们错过了呢?
今年暑假的某一天,我听一个我很尊重的老师批评了目前在做复杂系统有关问题时,主要基于统计的那些研究者,他们做出来的一些东西。我们都知道现在做这些问题的研究者可以发表很多很好的文章,但是这些文章缺少了某些东西。
以往,如果我写了一篇论文,发现某个结论,并且在文中提出得出这个结论可能的一个原因,甚至提出来一个数学模型,这个模型可以解释我从数据分析中得到的那个结论。要是把我写的这篇文章投稿到比较好的期刊,审稿人必然会提意见——你提出了一种产生这个结论的原因,可是你怎样排除掉其它的原因呢?如果你不能排除掉其它的因素的影响,那我们很遗憾只能拒绝掉你的文章了。
在大数据时代,审稿人们还能以此为理由拒绝掉别人的文章吗?这些数据这么珍贵,甚至有的是从运营商、航空公司、网站和志愿者处花费了金钱和时间才得到的,提出这样的一个解释就已经很好了……可是我们很可能会距离理解各种问题越来越远。在大数据时代,通过各种统计的方法,我们可以得到许多有意思的结论,但是这些结论不能让我们心安。就像「用 qq 邮箱的求职者很可能有着较低的简历质量」也可能会是一个从大数据分析得到的结果,可是我们不会知道为什么会这样。公开这些结论,甚至可能招致他人的批评。每个人可能有不同的看法,也会自己提出对这个问题的解释,即每个人都会对这个结论提出自己的「模型」,并把自己的「模型」跟这个结论等价起来。如果「模型」不能排除其它因素的影响,那么你可以提出你的理论来解释这个问题,而我也可以提出我的模型来解释这个结论,我们最终会无法说服他人。遗憾的是,正因为我们的结论来自大数据,很多时候我们很难再找出「对照实验」的那些数据了,杂志社没有办法说「如果你能排除掉其它的因素的影响,我们就发表你的文章」。我们很可能会距离「为什么」越来越远。
而如果把「大数据」和「数学模型」对立起来,则这里所说的「模型」便是另一码事了。这里的「模型」与「机制」「假设」「简化」等等更接近。有了「模型」,我们就可以从「纯粹理性」而非「实践理性」的高度让你心安。就像每个 HR 都可以提出无数个讨厌 qq 邮箱求职者的理由,只可惜,这些模型都是你个人的角度,大家攻击起来实在容易。我们或许会越来越难摒弃掉这些偏见,因为没有一个可以让大家都相信的「理论」(或者「模型」)。我们只知道结论。
这时候,如果你是天才的建模者,提出一个能被大家公认的模型,并排除掉其它也可能造成这一现象的干扰因素,那就是真正的大神了。我比较悲观,因为我自己也会在实用的结论面前满足。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中,分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-07-28在Excel数据分析与报表制作中,数据透视表是快速完成多维度汇总、分组统计的核心工具。很多从业者在得到透视表汇总结果后,为了 ...
2026-07-27 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-07-27当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运转的核心动能、滋养人工 ...
2026-07-27【核心关键词】客户、数据分析、指标体系、数据采集、数据指标、业务数据、分析思路、业务需求、分析方法 【专访摘要】本次 CDA ...
2026-07-24在数据分析、业务建模与数字化运营体系中,原始业务数据普遍存在缺失、重复、异常、口径不一致等质量问题,直接用于分析与建模会 ...
2026-07-24 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-07-24在数据驱动的精细化运营体系中,指标是业务判断、效果复盘、策略优化的核心依据。随着企业数据化程度提升,指标数量持续膨胀,但 ...
2026-07-23在用户运营与产品增长体系中,留存是衡量产品真实价值与用户粘性的核心标尺,也是决定用户生命周期价值、获客投产比的底层因素。 ...
2026-07-23 很多数据分析师精通Excel、SQL、Python等工具,但当被问到“面对一个具体的业务问题,该用什么分析方法”“描述性分析和诊断 ...
2026-07-23【核心关键词】埋点、产品、互联网、数据库、决策、数据分析、产品经理、商业模式、移动互联网、指标体系、运营模块、大数据平 ...
2026-07-22在高并发、大数据量的业务系统中,单表数据量达到千万级甚至亿级后,会出现查询性能骤降、索引维护成本飙升、存储扩容困难等问题 ...
2026-07-22 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-07-22在金融风控、企业运营、行业研究等数据分析场景中,大量数据以面板数据形态存在:例如多家分支机构连续多个季度的风险指标、多位 ...
2026-07-21 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-07-21