京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代,一个新的相对论时代
今天的社会治理、商业管理以及个人生活,无不在快速地数据化,即事实和细节被广泛地记录下来,通过这些记录,消逝的世界可以再现,从而进行分析和预测,人类历史上一些精细的、微妙的、隐性的、曾经难以捕捉的关系和知识,现在都可以捕捉到,快速上升为显性的知识。
我的结论是,通过数据,人类从来没有如此客观地认知我们每天生活的世界。
从成都返回杭州,有几个小时我在空中飞行。回到家,一封邮件已经静静地躺在我的邮箱。里面是迫切且尖锐的提问:
“涂先生,这个时代,让我越来越困惑,我是一名资深的数据分析师,但随着数据的增多,我甚至成了一名大数据的怀疑论者……之所以没有在现场提问,是担心我的挑战给大数据的信奉者泼上冷水……”
他的问题是,数据越来越多,但他却经常感受到,他离事实越来越远,通过数据,无法发现真正的真相。
换句话说,虽然数据是真实的,但它却不一定符合真正的事实。
这是一个新的相对论,数据相对论。爱因斯坦的相对论是关于时空和引力,新的相对论是关于数据和事实。
数据永远在追赶事实
美国政府曾经竭尽脑汁,一直想掌握全国真正的人口数量。1860年代开始,美国总统就开始给美国的普通公民写信,请他们不要因为害怕人口普查而隐瞒人数,他以总统的名义保证,这些数据只是为了掌握美国的真实人口数量,而不会用于征税、征兵和法庭调查等其它用途。此后历届美国总统都致力于排除人为因素,力图保证数据的客观性。他们还想方设法缩短普查时间,最初一次普查要两年时间才能完成,到后来慢慢缩短至两个月,乃至两三天。
每时每刻,都有人出生、死亡或者濒临死亡,他们发生在不同的家庭、医院、甚至野外,现实不会静止以等待你给它画像,任何一次人为组织的人口普查,都没有办法在同一个时间点掌握全部的这些事实,从而计算出一个时间点这个世界真正的人口数目。
直到今天,信息技术、互联网、手机如此发达,这个问题还没有解决。
人类是这个世界的灵长,迄今为止仍无法准确的掌握这个星球上有多少同类,遑论其他?
世间万物,一颗红豆、一碗牛肉面、一台汽车、一段感情,其中的知识,都往往丰富得我们难以想象,所谓一花一世界、一叶一菩提。
世界之大、包罗万象、周行不殆、须臾万变,人类就像刻舟求剑的楚人一样,能掌握的永远只是某一个节点某一个范围内的小事实,有混乱和困惑是再自然不过的事了。
但在纷繁复杂、持续演变的世界,人类又在不断努力。纵使人口不断变动,美国政府亦不断改进数据获取方式,以提高效率、逼近真相。今天的美国人口普查局,已经开发了一个“人口钟”(population clock),每分钟可以预测一次美国人口的变化情况。
数据永远在追赶事实,就像永不停歇的钟摆。在追求真理的道路上,我们进入了一个更为清晰的相对论时代。
数据仅记录事实的一个侧面
十年前,我刚到美国留学。开学不久,就学到了一件重要的事情,必须区分“事实”和“观点”,至今还记得,教授在课堂上第一次引用这句名言:“每个人都可以有他自己的观点,但不可以有他自己的事实”,我从此引为圭臬。
但随着经验和阅历的增长,我又感悟到,大千世界,之所以意见纷争、共识稀少,还是因为每个人拥有他自己的事实,事实确实只有一个,但一个事实却有千万面,人因为自己的局限,往往只能看到自己认同的那一面,很少有人能面面俱到、看到一个事实的全貌。
导致的结果,各人还是各有“事实”。
这真是个很可怕的结果,数据越多,分歧也可能越多,因为每一个不同的观点,都能找到相应的数据来支持,一定程度上,比没有数据还糟糕。
在我还没到阿里巴巴工作之前,阿里就有业务线上的高管咨询我,说阿里有很多数据,也有很多部门,仅仅预测顾客下一件可能要买的东西,就有9个部门在做,这些部门,往往得出不一样的结论,而且都认为自己的预测最占理、最准确!
我的第一反应,是这些部门依据的应该是各自收集的、不同环节的数据,一问果然如此。我建议说,阿里的正确做法,应该是合并部门、归整数据,形成一个多维度的、尽可能大的数据,再进行预测。
这个案例其实隐藏着一个巨大的时代风险。数量庞大的数据,将导致“人人皆有理”。一个人要做出一个与其它人迥异的结论,总可以找到相应的数据来支撑自己。
其中的本因,就是数据再多,我们都可能无法掌握事实的全貌。数据再大都不是事实,但它逼近事实。事实确实是只有一个,但有千万个棱面,任何一组数据,可能都只仅仅描绘了“一个”面。
如果有上帝,那只有他的眼睛才能看到万事万物的全貌。人,不可以。
再大的数据,也不可以
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在统计学分析、实验研究、业务数据复盘过程中,单因素方差分析是检验自变量对因变量是否存在显著影响的核心方法。其中,两个水平 ...
2026-05-26【核心关键词】算法、客户、大数据、互联网、调优、建模、模型优化、机器学习、评分卡模型、模型开发、智能风控、业务场景、数 ...
2026-05-26 很多数据分析师写过无数个 SELECT,但当被问到“新建一张表,该如何定义字段类型来保证数据质量”“创建视图和存储物理表有 ...
2026-05-26在数据清洗、统计分析与数据质量检测工作中,箱型图(又称箱线图、Box Plot)是最直观、最高效的可视化分析工具之一。相较于柱状 ...
2026-05-25在大数据分析、数据清洗、质量管控、风险监测等领域,异常数据识别是保障数据质量、确保分析结论精准、规避业务决策失误的核心基 ...
2026-05-25 很多数据分析师精通Excel函数和透视表,但当被问到“数据从哪里来”“表和视图有什么区别”“数据库管理系统和SQL是什么关系 ...
2026-05-25数字化经营时代,企业的市场竞争早已从经验决策转向数据决策。门店营收、用户转化、产品销量、成本损耗、存量资产等所有经营行为 ...
2026-05-22在MySQL数据库日常运维、业务数据校验、数据迁移与数据清洗场景中,自增主键ID的连续性校验是一项基础且关键的工作。MySQL的Auto ...
2026-05-22 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-05-22【核心关键词】大数据、可视化、存储、架构、客户、离线、产品、同步、实时、数据仓库、数据分析、数据可视化、存储数据、离线 ...
2026-05-21在电商流量红利消退、公域获客成本持续走高的当下,存量用户深度挖掘已成为店铺增收增效的核心抓手。相较于付费投放获取的陌生新 ...
2026-05-21 很多数据分析师每天盯着几十个指标,但当被问到“这套指标要支撑什么业务目标”“指标之间是什么逻辑关系”“业务变化时如何 ...
2026-05-21在数据驱动决策的时代,数据质量直接决定分析结果的可靠性与准确性,而异常值作为数据清洗中的核心痛点,往往会扭曲分析结论、误 ...
2026-05-20 很多数据分析师每天盯着GMV、DAU、转化率,但当被问到“哪些指标在所有行业都适用”“哪些指标只对电商有意义”“二者如何搭 ...
2026-05-20Agent的能力边界,很大程度上取决于其掌握的Skill质量和数量。传统做法是靠人工编写和维护Skill,但这条路很快会遇到瓶颈。业务 ...
2026-05-20在统计分析中,方差分析(ANOVA)是一种常用的假设检验方法,核心用于分析“一个或多个自变量对单个因变量的影响”,广泛应用于 ...
2026-05-19 很多数据分析师每天盯着GMV、DAU、转化率,但当被问到“什么是指标”“指标和维度有什么区别”“如何定义指标值的计算规则和 ...
2026-05-19想高效备考 CDA 一级,拒绝盲目刷题、冗余学习?《CDA 一级教材知识手册》重磅来袭!以官方教材为核心,浓缩 13 章 103 个核心考 ...
2026-05-19在数据统计分析中,卡方检验是一种常用的非参数检验方法,核心用于判断两个或多个分类变量之间是否存在显著关联,广泛应用于市场 ...
2026-05-18在企业数字化转型的浪潮中,很多企业陷入了“技术堆砌”的误区——上线了ERP、CRM、BI等各类系统,积累了海量数据,却依然面临“ ...
2026-05-18