京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代,一个新的相对论时代
不久前的一个周末,我在成都参加希捷公司的年会。
这是全球数一数二的硬盘供应商,年会熙熙攘攘,盛况空前。在国内各项重要的经济指标均为下行的情况下,希捷公司的出货量仍然保持着增长。事实上,整个存储器行业这几年都在连续逆势增长。
时代的轮廓如此清晰。人们在减少饮料、成品油甚至住房的消费,却在花更多的钱保存数据。
演讲中,我提到,今天的社会治理、商业管理以及个人生活,无不在快速地数据化,即事实和细节被广泛地记录下来,通过这些记录,消逝的世界可以再现,从而进行分析和预测,人类历史上一些精细的、微妙的、隐性的、曾经难以捕捉的关系和知识,现在都可以捕捉到,快速上升为显性的知识。
我的结论是,通过数据,人类从来没有如此客观地认知我们每天生活的世界。
从成都返回杭州,有几个小时我在空中飞行。回到家,一封邮件已经静静地躺在我的邮箱。里面是迫切且尖锐的提问:
“涂先生,这个时代,让我越来越困惑,我是一名资深的数据分析师,但随着数据的增多,我甚至成了一名大数据的怀疑论者……之所以没有在现场提问,是担心我的挑战给大数据的信奉者泼上冷水……”
他的问题是,数据越来越多,但他却经常感受到,他离事实越来越远,通过数据,无法发现真正的真相。
换句话说,虽然数据是真实的,但它却不一定符合真正的事实。
这是一个新的相对论,数据相对论。爱因斯坦的相对论是关于时空和引力,新的相对论是关于数据和事实。
数据永远在追赶事实
美国政府曾经竭尽脑汁,一直想掌握全国真正的人口数量。1860年代开始,美国总统就开始给美国的普通公民写信,请他们不要因为害怕人口普查而隐瞒人数,他以总统的名义保证,这些数据只是为了掌握美国的真实人口数量,而不会用于征税、征兵和法庭调查等其它用途。此后历届美国总统都致力于排除人为因素,力图保证数据的客观性。他们还想方设法缩短普查时间,最初一次普查要两年时间才能完成,到后来慢慢缩短至两个月,乃至两三天。
每时每刻,都有人出生、死亡或者濒临死亡,他们发生在不同的家庭、医院、甚至野外,现实不会静止以等待你给它画像,任何一次人为组织的人口普查,都没有办法在同一个时间点掌握全部的这些事实,从而计算出一个时间点这个世界真正的人口数目。
直到今天,信息技术、互联网、手机如此发达,这个问题还没有解决。
人类是这个世界的灵长,迄今为止仍无法准确的掌握这个星球上有多少同类,遑论其他?
世间万物,一颗红豆、一碗牛肉面、一台汽车、一段感情,其中的知识,都往往丰富得我们难以想象,所谓一花一世界、一叶一菩提。
世界之大、包罗万象、周行不殆、须臾万变,人类就像刻舟求剑的楚人一样,能掌握的永远只是某一个节点某一个范围内的小事实,有混乱和困惑是再自然不过的事了。
但在纷繁复杂、持续演变的世界,人类又在不断努力。纵使人口不断变动,美国政府亦不断改进数据获取方式,以提高效率、逼近真相。今天的美国人口普查局,已经开发了一个“人口钟”(population clock),每分钟可以预测一次美国人口的变化情况。
数据永远在追赶事实,就像永不停歇的钟摆。在追求真理的道路上,我们进入了一个更为清晰的相对论时代。
数据仅记录事实的一个侧面
十年前,我刚到美国留学。开学不久,就学到了一件重要的事情,必须区分“事实”和“观点”,至今还记得,教授在课堂上第一次引用这句名言:“每个人都可以有他自己的观点,但不可以有他自己的事实”,我从此引为圭臬。
但随着经验和阅历的增长,我又感悟到,大千世界,之所以意见纷争、共识稀少,还是因为每个人拥有他自己的事实,事实确实只有一个,但一个事实却有千万面,人因为自己的局限,往往只能看到自己认同的那一面,很少有人能面面俱到、看到一个事实的全貌。
导致的结果,各人还是各有“事实”。
这真是个很可怕的结果,数据越多,分歧也可能越多,因为每一个不同的观点,都能找到相应的数据来支持,一定程度上,比没有数据还糟糕。
在我还没到阿里巴巴工作之前,阿里就有业务线上的高管咨询我,说阿里有很多数据,也有很多部门,仅仅预测顾客下一件可能要买的东西,就有9个部门在做,这些部门,往往得出不一样的结论,而且都认为自己的预测最占理、最准确!
我的第一反应,是这些部门依据的应该是各自收集的、不同环节的数据,一问果然如此。我建议说,阿里的正确做法,应该是合并部门、归整数据,形成一个多维度的、尽可能大的数据,再进行预测。
这个案例其实隐藏着一个巨大的时代风险。数量庞大的数据,将导致“人人皆有理”。一个人要做出一个与其它人迥异的结论,总可以找到相应的数据来支撑自己。
其中的本因,就是数据再多,我们都可能无法掌握事实的全貌。数据再大都不是事实,但它逼近事实。事实确实是只有一个,但有千万个棱面,任何一组数据,可能都只仅仅描绘了“一个”面。
如果有上帝,那只有他的眼睛才能看到万事万物的全貌。人,不可以。
再大的数据,也不可以。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
【核心关键词】软件、洞察力、大数据、产品、经验、硬件、流量、创新、决策、数据安全、网络安全、数据分析、决策制定、数据挖 ...
2026-06-18在方案选型、效果复盘、产品评估、供应商筛选等各类业务决策场景中,仅凭单一指标下结论往往会陷入 “以偏概全” 的误区。多维度 ...
2026-06-18 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-06-18在数据分析、用户运营与业务增长的工作体系中,漏斗拆解是最基础也最高频的问题定位方法。很多业务场景下,我们只能看到最终的转 ...
2026-06-17在数据库开发、数据清洗与报表统计场景中,数值类型转换为日期是高频刚需操作。业务系统常以 Unix 时间戳、整型日期(如20240617 ...
2026-06-17 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-06-17【核心关键词】数据库、电商、知识、产品、数据产品、监管业务、产品经理、业务系统、用户行为分析、用户分析、数据分析、电商 ...
2026-06-16在 Python 动态类型与面向对象的编程体系中,变量定义与类实例化是构建代码逻辑的两大核心基石。变量是数据存储、传递与运算的基 ...
2026-06-16 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据和表结构数据有什么区别”“数据类型误判会引发哪些分析错误” ...
2026-06-16在 MySQL 查询性能优化体系中,索引是降低查询耗时、提升数据库吞吐的核心手段。其中联合索引与覆盖索引是实际开发中最高频的两 ...
2026-06-15在数据仓库建设与商业智能分析体系中,维度建模是应用最广泛的建模方法论,而事实表与维度表是维度建模的两大核心构件,共同构成 ...
2026-06-15 很多数据分析师能熟练计算指标,但当被问到“这家企业的核心业务目标是什么”“如何把模糊的战略目标拆解为可量化的指标”“ ...
2026-06-15在数据分析、业务监控、运营复盘等场景中,列值趋势计算是核心需求之一。无论是分析销售额的月度增长、用户活跃的变化趋势、库存 ...
2026-06-12在数字经济深度渗透的当下,消费者的购买行为已从过去的 “被动接受” 转变为 “主动决策”。流量红利消退、获客成本攀升、用户 ...
2026-06-12CDA三级认证是三个级别中的塔尖,全面考察数据战略、团队领导和复杂项目的综合能力。它所对应的《敏捷数据挖掘》教材,不再局限 ...
2026-06-12在游戏产业的商业逻辑中,付费玩家是支撑游戏生存与发展的核心支柱。行业普遍遵循 “二八定律”:20% 的付费玩家贡献了游戏 80% ...
2026-06-11【核心关键词】企业、定位、传统、产品、互联网、可视化、业务侧、数字化、结构化、数据分析、传统制造业、市场状态、发展空间 ...
2026-06-11 解读《CDA二级教材:量化策略分析(2025)》的全景结构与学习逻辑 ” CDA二级认证是企业招聘数据分析师时最常提及的证书门槛 ...
2026-06-11【核心关键词】药企、可视化、营销、分类、数据分析师、销售数据、业务人员、指导方向、分析报告、营销数据、营销医生 【专访摘 ...
2026-06-10在统计学分析、问卷调研、实验验证、业务复盘等场景中,卡方检验与 T 检验是应用最广泛的两类基础假设检验方法。前者专门处理分 ...
2026-06-10