京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据带来的弊病?近因效应
世界上90%的数据都是过去几年里产生的,你可能已经熟知这个统计了。这是真的。我能找到的关于这个表述的最早的陈述之一可以追溯到2013年五月,但这个趋势一直显著地持续着。确实,过去三个世纪以来每两年世界上数据的总量便会提高到十倍——这个比率甚至使得发现处理器性能加倍的摩尔定律都相形见绌。
这样一个信息增长比率所带来的问题之一是现在这个时刻的数据总是比才过去不久的要出现得大得多。想想一下回顾一本描绘你人生前八年的一本相册,从出生到成年。假设你有你人生头两年的两张照片。假定在匹配现在这样一个信息增长比率下,你将会拥有印象深刻的2000张六岁到八岁的照片;20万张十岁到十二岁的;以及惊人的两亿张十六岁到十八岁的照片。也就是说在最后两年里每一秒种便会有不只三张照片产生。
“当你想寻求更长远的视角而开始回顾过去时,你会发现现在的东西太多而过去的东西又太少。”
当然,这并不是全球数据的一个完美的类比。一开始,世界上许多数据的增长都是因为更多的人参与创造出了更多的信息资源以及更庞大更细致的格式。但是关于均衡性的观点是有根据的。如果你打算回顾像上面一样的记录的话或者尝试着分析它,你将发觉离现在越近的东西越会变得毫无意义。记录这么多次有用的信息却更少,为什么会这样呢?
这就是现今如此多大数据被收集与分析所带来的问题。当你想寻求更长远的视角而开始回顾过去时,你会发现现在的东西太多而过去的东西又太少。目光短浅深深地植入在高估以历史为代价的短期趋势的强大的结构倾向中。
大数据所带来的问题之一是现在这个时刻的数据总是比才过去不久的要出现得大得多。(来源:iStock)
为了理解这个的重要性,思考一下社会科学关于近因效应的发现,它描述了人们假设未来的事件将类似于最近的经历的倾向。这也是我们熟知的“可具有性”启发式的另一种说法:依据任何最容易想到的东西进行思考的倾向。这也是一种普遍的心理属性。如果在过去的几年里在你住的地方你已经见证了异常寒冷的夏天,比如,你可能被引导着说出夏天越来越冷了——或者你们当地的气候可能在变冷。实际上你不应该把你读到的任何东西读入数据。你需要运用更长远的眼光去了解关于气候变化趋势的有意义的东西。在短期内,你最好不要随意推测——但我们中有谁能够真的做到呢?
“短期的分析不只是无效的——它们经常是无用的甚至误导人的”
现实生活中多数复杂现象经常也是这样的:如股票市场、经济、公司兴衰、战阵与和平、人际关系以及王朝更迭。短期的分析不单单是无效的——它们经常是无用甚至误导人的。瞧瞧众多经济学家排着队宣布像2009年金融危机这样的事件是不可能发生的,直到它真的发生了。在那种程度上可以做到有效预测的那种概念本身就是问题的一部分。
值得一提的是在决定数据去留时新奇经常是主要的考虑因素。推陈出新:在这个数字趋势的世界上,搜索算法本质上偏向于新鲜事物,所谓的超链停用从最高法院决定到整个社会媒体服务业等各方面十分猖獗。对于当下的偏向从结构上在我们周边的所有科技中已经根深蒂固,尤其要归因于我们大约五年后丢弃我们大多数一度繁荣的机器的喜好。
该怎么做?这不只是一个更擅长保存旧数据的问题——尽管这不能说是个坏主意,考虑到我们对现在于过去的几十年而不是过去几年的保存多无能为力。更重要的是,决定哪些数据是在第一时间值得保存的——并且以知识的名义有意义地剔除信息意味着什么。
我们需要更擅长于决定哪些数据值得在第一时间保存的。
我们需要的是一种我喜欢称为“选择性遗忘”的能力:训练我们的工具更擅长于放下刚刚过去的东西以保持眼光上的连续性。这是一种类似治疗的方式助我们合理安排相册——尽管需要更多的数学。什么情况下两百万张照片不如两千张有价值呢?当样本比较多涉及领域却比较少的时候;当可以提出的问题不那么重要的时候;当提供的细节的级别只是逐步灌输怀疑和只有盲目的自信的时候。
有许多的数据集是不能复原的,当完成的时候价值是极大的:基因序列;人口数据;地理和物理学的困难知识。然而,若科学越不严谨,规模就越可能与质量成反比—更重要的是时间本身就是一个过滤器。我们要么仔细选择忍受什么,有哪些是重要的,还有要带着有意义的心态去捕捉我们后退的过去,要么它的印记被现在不断增加的噪音所替代。
时间的削弱是有多方面的,因为在它仍然是一个限制因素里面有一个至关重要的意义:人的时间和注意力的可用性。企业,个人和政府都有相当多的信息,与他们几年前相比。然而,在白天的日子里他们没有任何可用的关注,董事会成员,首席执行官,民选官员或者几个小时的时间。越来越好的工具的存在帮助决策者对他们所拥有的信息提出有意义的问题-制造者对他们拥有的信息提出有意义的问题-但你只能分析可企及的问题。单纯地积累不是一种答案。在一个越来越大的数据时代,你选择不知道的事情和你所做的一样重要。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
主讲人简介 张冲,海归统计学硕士,CDA 认证数据分析师,前云南白药集团资深数据分析师,自媒体 Python 讲师,全网课程播放量破 ...
2026-04-10在数据可视化与业务分析中,同比分析是衡量业务发展趋势、识别周期波动的核心手段,其核心逻辑是将当前周期数据与上年同期数据进 ...
2026-04-10在机器学习模型的落地应用中,预测精度并非衡量模型可靠性的唯一标准,不确定性分析同样不可或缺。尤其是在医疗诊断、自动驾驶、 ...
2026-04-10数据本身是沉默的,唯有通过有效的呈现方式,才能让其背后的规律、趋势与价值被看见、被理解、被运用。统计制图(数据可视化)作 ...
2026-04-10在全球化深度发展的今天,跨文化传播已成为连接不同文明、促进多元共生的核心纽带,其研究核心围绕“信息传递、文化解读、意义建 ...
2026-04-09在数据可视化领域,折线图是展示时序数据、趋势变化的核心图表类型之一,其简洁的线条的能够清晰呈现数据的起伏规律。Python ECh ...
2026-04-09在数据驱动的时代,数据分析早已不是“凭经验、靠感觉”的零散操作,而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-04-09长短期记忆网络(LSTM)作为循环神经网络(RNN)的重要改进模型,凭借其独特的门控机制(遗忘门、输入门、输出门),有效解决了 ...
2026-04-08在数据分析全流程中,数据质量是决定分析结论可靠性的核心前提,而异常值作为数据集中的“异类”,往往会干扰统计检验、模型训练 ...
2026-04-08在数字经济飞速发展的今天,数据已渗透到各行各业的核心场景,成为解读趋势、优化决策、创造价值的核心载体。而数据分析,作为挖 ...
2026-04-08在数据分析全流程中,数据处理是基础,图形可视化是核心呈现手段——前者负责将杂乱无章的原始数据转化为干净、规范、可分析的格 ...
2026-04-07在数据分析与统计推断中,p值是衡量假设检验结果显著性的核心指标,其本质是在原假设(通常为“无效应”“无差异”)成立的前提 ...
2026-04-07在数字经济深度渗透的今天,数据已成为企业生存发展的核心资产,企业的竞争本质已转变为数据利用能力的竞争。然而,大量来自生产 ...
2026-04-07Python凭借简洁的语法、丰富的生态库,成为算法开发、数据处理、机器学习等领域的首选语言。但受限于动态类型、解释性执行的特性 ...
2026-04-03在深度学习神经网络中,卷积操作是实现数据特征提取的核心引擎,更是让模型“看懂”数据、“解读”数据的关键所在。不同于传统机 ...
2026-04-03当数字化转型从企业的“战略口号”落地为“生存之战”,越来越多的企业意识到,转型的核心并非技术的堆砌,而是数据价值的深度挖 ...
2026-04-03在日常办公数据分析中,数据透视表凭借高效的汇总、分组功能,成为Excel、WPS等办公软件中最常用的数据分析工具之一。其中,“计 ...
2026-04-02在数字化交互的全场景中,用户的每一次操作都在生成动态的行为轨迹——电商用户的“浏览商品→点击详情→加入购物车”,内容APP ...
2026-04-02在数字化转型深度推进的今天,企业数据已成为驱动业务增长、构建核心竞争力的战略资产,而数据安全则是守护这份资产的“生命线” ...
2026-04-02在数据驱动决策的浪潮中,数据挖掘与数据分析是两个高频出现且极易被混淆的概念。有人将二者等同看待,认为“做数据分析就是做数 ...
2026-04-01