京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代,一个新的相对论时代
不久前的一个周末,我在成都参加希捷公司的年会。
这是全球数一数二的硬盘供应商,年会熙熙攘攘,盛况空前。在国内各项重要的经济指标均为下行的情况下,希捷公司的出货量仍然保持着增长。事实上,整个存储器行业这几年都在连续逆势增长。
时代的轮廓如此清晰。人们在减少饮料、成品油甚至住房的消费,却在花更多的钱保存数据。
演讲中,我提到,今天的社会治理、商业管理以及个人生活,无不在快速地数据化,即事实和细节被广泛地记录下来,通过这些记录,消逝的世界可以再现,从而进行分析和预测,人类历史上一些精细的、微妙的、隐性的、曾经难以捕捉的关系和知识,现在都可以捕捉到,快速上升为显性的知识。
我的结论是,通过数据,人类从来没有如此客观地认知我们每天生活的世界。
从成都返回杭州,有几个小时我在空中飞行。回到家,一封邮件已经静静地躺在我的邮箱。里面是迫切且尖锐的提问:
“涂先生,这个时代,让我越来越困惑,我是一名资深的数据分析师,但随着数据的增多,我甚至成了一名大数据的怀疑论者……之所以没有在现场提问,是担心我的挑战给大数据的信奉者泼上冷水……”
他的问题是,数据越来越多,但他却经常感受到,他离事实越来越远,通过数据,无法发现真正的真相。
换句话说,虽然数据是真实的,但它却不一定符合真正的事实。
这是一个新的相对论,数据相对论。爱因斯坦的相对论是关于时空和引力,新的相对论是关于数据和事实。
数据永远在追赶事实
美国政府曾经竭尽脑汁,一直想掌握全国真正的人口数量。1860年代开始,美国总统就开始给美国的普通公民写信,请他们不要因为害怕人口普查而隐瞒人数,他以总统的名义保证,这些数据只是为了掌握美国的真实人口数量,而不会用于征税、征兵和法庭调查等其它用途。此后历届美国总统都致力于排除人为因素,力图保证数据的客观性。他们还想方设法缩短普查时间,最初一次普查要两年时间才能完成,到后来慢慢缩短至两个月,乃至两三天。
每时每刻,都有人出生、死亡或者濒临死亡,他们发生在不同的家庭、医院、甚至野外,现实不会静止以等待你给它画像,任何一次人为组织的人口普查,都没有办法在同一个时间点掌握全部的这些事实,从而计算出一个时间点这个世界真正的人口数目。
直到今天,信息技术、互联网、手机如此发达,这个问题还没有解决。
人类是这个世界的灵长,迄今为止仍无法准确的掌握这个星球上有多少同类,遑论其他?
世间万物,一颗红豆、一碗牛肉面、一台汽车、一段感情,其中的知识,都往往丰富得我们难以想象,所谓一花一世界、一叶一菩提。
世界之大、包罗万象、周行不殆、须臾万变,人类就像刻舟求剑的楚人一样,能掌握的永远只是某一个节点某一个范围内的小事实,有混乱和困惑是再自然不过的事了。
但在纷繁复杂、持续演变的世界,人类又在不断努力。纵使人口不断变动,美国政府亦不断改进数据获取方式,以提高效率、逼近真相。今天的美国人口普查局,已经开发了一个“人口钟”(population clock),每分钟可以预测一次美国人口的变化情况。
数据永远在追赶事实,就像永不停歇的钟摆。在追求真理的道路上,我们进入了一个更为清晰的相对论时代。
数据仅记录事实的一个侧面
十年前,我刚到美国留学。开学不久,就学到了一件重要的事情,必须区分“事实”和“观点”,至今还记得,教授在课堂上第一次引用这句名言:“每个人都可以有他自己的观点,但不可以有他自己的事实”,我从此引为圭臬。
但随着经验和阅历的增长,我又感悟到,大千世界,之所以意见纷争、共识稀少,还是因为每个人拥有他自己的事实,事实确实只有一个,但一个事实却有千万面,人因为自己的局限,往往只能看到自己认同的那一面,很少有人能面面俱到、看到一个事实的全貌。
导致的结果,各人还是各有“事实”。
这真是个很可怕的结果,数据越多,分歧也可能越多,因为每一个不同的观点,都能找到相应的数据来支持,一定程度上,比没有数据还糟糕。
在我还没到阿里巴巴工作之前,阿里就有业务线上的高管咨询我,说阿里有很多数据,也有很多部门,仅仅预测顾客下一件可能要买的东西,就有9个部门在做,这些部门,往往得出不一样的结论,而且都认为自己的预测最占理、最准确!
我的第一反应,是这些部门依据的应该是各自收集的、不同环节的数据,一问果然如此。我建议说,阿里的正确做法,应该是合并部门、归整数据,形成一个多维度的、尽可能大的数据,再进行预测。
这个案例其实隐藏着一个巨大的时代风险。数量庞大的数据,将导致“人人皆有理”。一个人要做出一个与其它人迥异的结论,总可以找到相应的数据来支撑自己。
其中的本因,就是数据再多,我们都可能无法掌握事实的全貌。数据再大都不是事实,但它逼近事实。事实确实是只有一个,但有千万个棱面,任何一组数据,可能都只仅仅描绘了“一个”面。
如果有上帝,那只有他的眼睛才能看到万事万物的全貌。人,不可以。
再大的数据,也不可以。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
【核心关键词】知识、设备、工程师、数字化、建模、算法、工业大数据、数据分析、控制算法、机器学习、深度学习、业务目标、工 ...
2026-08-05增长率是数据分析、业务报表、可视化看板中最核心的指标之一,常用于衡量营收、销量、用户量、流量等业务数据的涨跌幅度与发展趋 ...
2026-08-05小陈是某电商平台的数据分析师。老板交给他一个任务:“我们平台的注册用户已经突破1000万了,想了解一下用户的平均月消费金额。 ...
2026-08-05在机器学习建模、数据预处理、抽样划分、模型初始化训练的全流程中,随机种子是控制实验随机性、保证结果可复现、提升模型稳定性 ...
2026-08-04Python作为面向对象的主流编程语言,核心编程体系由变量、方法、类三大基础要素构成。三者层层递进、相互协作,支撑起所有基础代 ...
2026-08-04 很多数据分析师沉迷于复杂的机器学习算法,却忽略了数据分析最基础也最核心的能力——描述性统计。事实上,80%的商业分析问 ...
2026-08-04为什么学习数据分析? 当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运 ...
2026-08-03CDA等级认证证书有效期为三年,三年进行一次年审,主要考察CDA持证人的职业发展情况;学历、工作单位及职业变更情况;继续教育 ...
2026-08-03【核心关键词】金融、岗位、企业、算法、知识、专业、理论、课程、软件、数据分析、业务类型、应用场景、经营管理、大型企业、 ...
2026-08-03在日常数据分析、业务报表复盘、业绩预测工作中,平均增长率是衡量数据长期变化趋势的核心指标,广泛用于营收增长、用户增长、销 ...
2026-08-03很多人把统计学理解为“一堆公式和计算”,却忽略了它的本质——一门让数据“开口说话”的科学。真正的数据分析高手,不是会算平 ...
2026-08-03在数据指标体系搭建工作中,从业者常困惑于指标搭建的核心逻辑:究竟是依托一线零散数据自下而上汇总指标,还是基于战略目标自上 ...
2026-07-31在数据分析、问卷研究、实验复盘、业务建模的工作中,大多数人最关注的是“用什么统计方法”:是做T检验、方差分析、卡方检验, ...
2026-07-31 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-07-31在问卷调研的数据分析流程中,“先检验信效度,再开展进阶统计分析”是通用的规范逻辑。很多从业者会听到“问卷效度高,后续可以 ...
2026-07-30【核心关键词】大数据、统计学、专业、毕业生、论文、课程、计算机、建模、知识、数据分析、机器学习、数据科学、大数据技术、 ...
2026-07-30 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-07-30在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29