
大数据分析的局限乃传统统计学问题
大数据”已成为当今炙手可热的科技,商务、医疗、社交、教育、政务等领域纷纷广泛采用“大数据”技术去提升应用系统的智能及效率。
“大数据”分析之潜在问题
“大数据”的广泛应用始于美国。自从美国总统奥巴马2012年3月推出2亿美元的“大数据研究及发展计划”后,世界各大小经济体陆续仿效,大力投资相关领域。全球资讯科技企业亦不敢怠慢,积极推出适合的大数据资讯科技方案及产品,更大洒金钱推广大数据分析的优点及其所能带来的商机。据观察,近期不少从事金融、医疗、社会工作、工商业、政务等范畴主管都已被潜移默化,鼓吹“大数据”的功能及效益。然而,“大数据”真的是万能的吗?本文引用不同的国际专家报告,反映“大数据”分析之潜在问题。
首篇报告题为《谷歌流感的比喻:大数据分析的陷阱》("The Parable of Google Flu : Traps of Big DataAnalytics"),描述了谷歌公司曾利用“大数据”分析推算2011/2012年度美国流感的趋势,但结果却强差人意,估计的流感个案数目远超过实际数目。而谷歌利用的数据是来自用户使用的关键词(如“禽流感”)次数及分布作推算分析。专家认为构成严重误差的主要原因是谷歌盲目地广泛收集关键词,以为越多越好,却没有了解用户查询时的出发点,结果收集得的数据大部分来自非流感病患者,因此在数据采集阶段已严重犯错,自然推算失准。若数据分析全力集中在流感病患者,结果便会截然不同。
第二位专家是美国加州大学伯克利分校的国际知名学者米高佐敦(MichaelJordon)教授,他最近接受美国IEEE学会杂志访问,在题为"Machine-LearningMaestro Michael Jordan on the Delusions of Big Data and Other Huge EngineeringEfforts" 一文中指出,“大数据”在现今商业市场被过分炒作,它最后可能只是一场空欢喜,教授更预测“大数据”的“冬天”即将来临。他认为“大数据”用户作出假设的速度将会超越大数据的统计范畴,在这情况下数据分析结果难免会出现错误,造成大量噪音,影响推算的可靠性。
从另一角度看,“大数据”用户往往忽略数据的“动力”(dynamics)。例如在变幻无常的商务环境中,用户的需求不停在变,那么昨天的“大数据”分析结果能有效地应用于今天的商务环境吗?能够满足用户今天的需求吗?若然不能,我们需要重新进行分析,但昨天采集商务数据的方法能满足用户今天的新需求吗?归根究底,什么时候开始分析及什么时候停止既是统计学应用的老问题,亦是“大数据”分析必须严肃面对的问题,但在千变万化的应用及数据环境下,要应对这个问题更是难上加难。因此佐敦教授进一步指出“大数据”分析服务提供者有责任清楚说明分析推算法的质量标准及其误差度,做好用户的“期望管理”(Expectation Management)。
“大数据”的十大局限
“前车可鉴”,因此用户在使用“大数据”技术时不容掉以轻心,必须紧慎考虑它在操作上的“盲点”(局限性)。归纳而言,这些“盲点”大致是由于以下网络数据的不健康特性而产生:
- 噪音性:网上数据泛滥,资讯内容五花八门,格式也参差不一。要从中过滤与应用需求无关的数据,既复杂亦耗时。
- 真实性:由于网络资讯自由,即使在找出相关数据之后,内容的真假亦难以分别。例如去年在美国总统大选期间,在网络媒体上謡言满天飞,虚假新闻层出不穷,渗透全美每一角落;“教宗赞助特朗普”、“希拉里向伊斯兰国(IS)贩卖军火”等假新闻在《脸书》上的分享及点评率远比传统纸媒为高。然而,“垃圾入,垃圾出”(Garbage In Garbage Out),基于伪造资讯的“大数据”分析,难免会适得其反。
- 代表性:真实的数据并不一定具代表性。若然系统错误地使用了缺乏代表性的资料作分析的话,结果便会弄巧反拙。
- 完整性:利用非完整的数据进行分析,结果以偏概全,不尽不实,容易引致误判。
- 时效性:某类数据在事件发生当刻可能大派用场,但当事件或时限过后,其影响力未必复再。若然过量的旧数据被用作分析,结果未能反映现况。再者,适时的数据往往因为比旧数据少而很容易被忽略。
- 解释性:在“大数据”的分析过程中,基于输入的数据,算法便会产生及输出分析结果。在分析过程中,数据输入如何产生输出的理据及两者的因果关系并不清晰,如黑箱作业。
- 预测性:世事变幻莫测,以前从未发生过的意外絶不罕见,但却难以预料(分析出来)。因此,有专家认为“大数据”分析是规范的(prescriptive)而不具预测性(predictive)的功能。
- 误导性:使用假资讯或错误分析算法均会影响结果的可靠性。“尽信书则不如无书”,未经核实及验证的分析结果可能会造成严重的反效果。
- 合法性:数据内容、采集方法及其使用过程极有可能涉及个人私隐、商业机密及公众权益等资讯。因此,资讯的安全性和合法性对“大数据”应用十分之关键,可是不少企业只顾赚钱,而罔顾这些因素。
- 价值性:“大数据”不是免费的,企业切忌盲目跟风。数据本身、分析软件等均所费不菲,因此成本效益的衡量是企业采用“大数据”的另一关键考虑点。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
PyTorch 核心机制:损失函数与反向传播如何驱动模型进化 在深度学习的世界里,模型从 “一无所知” 到 “精准预测” 的蜕变,离 ...
2025-07-252025 年 CDA 数据分析师考纲焕新,引领行业人才新标准 在数字化浪潮奔涌向前的当下,数据已成为驱动各行业发展的核心要素。作为 ...
2025-07-25从数据到决策:CDA 数据分析师如何重塑职场竞争力与行业价值 在数字经济席卷全球的今天,数据已从 “辅助工具” 升级为 “核心资 ...
2025-07-25用 Power BI 制作地图热力图:基于经纬度数据的实践指南 在数据可视化领域,地图热力图凭借直观呈现地理数据分布密度的优势,成 ...
2025-07-24解析 insert into select 是否会锁表:原理、场景与应对策略 在数据库操作中,insert into select 是一种常用的批量数据插入语句 ...
2025-07-24CDA 数据分析师的工作范围解析 在数字化时代的浪潮下,数据已成为企业发展的核心资产之一。CDA(Certified Data Analyst)数据分 ...
2025-07-24从 CDA LEVEL II 考试题型看 Python 数据分析要点 在数据科学领域蓬勃发展的当下,CDA(Certified Data Analyst)认证成为众多从 ...
2025-07-23用 Python 开启数据分析之旅:从基础到实践的完整指南 在数据驱动决策的时代,数据分析已成为各行业不可或缺的核心能力。而 Pyt ...
2025-07-23鸢尾花判别分析:机器学习中的经典实践案例 在机器学习的世界里,有一个经典的数据集如同引路明灯,为无数初学者打开了模式识别 ...
2025-07-23解析 response.text 与 response.content 的核心区别 在网络数据请求与处理的场景中,开发者经常需要从服务器返回的响应中提取数 ...
2025-07-22解析神经网络中 Softmax 函数的核心作用 在神经网络的发展历程中,激活函数扮演着至关重要的角色,它们为网络赋予了非线性能力, ...
2025-07-22CDA数据分析师证书考取全攻略 一、了解 CDA 数据分析师认证 CDA 数据分析师认证是一套科学化、专业化、国际化的人才考核标准, ...
2025-07-22左偏态分布转正态分布:方法、原理与实践 左偏态分布转正态分布:方法、原理与实践 在统计分析、数据建模和科学研究中,正态分 ...
2025-07-22你是不是也经常刷到别人涨粉百万、带货千万,心里痒痒的,想着“我也试试”,结果三个月过去,粉丝不到1000,播放量惨不忍睹? ...
2025-07-21我是陈辉,一个创业十多年的企业主,前半段人生和“文字”紧紧绑在一起。从广告公司文案到品牌策划,再到自己开策划机构,我靠 ...
2025-07-21CDA 数据分析师的职业生涯规划:从入门到卓越的成长之路 在数字经济蓬勃发展的当下,数据已成为企业核心竞争力的重要来源,而 CD ...
2025-07-21MySQL执行计划中rows的计算逻辑:从原理到实践 MySQL 执行计划中 rows 的计算逻辑:从原理到实践 在 MySQL 数据库的查询优化中 ...
2025-07-21在AI渗透率超85%的2025年,企业生存之战就是数据之战,CDA认证已成为决定企业存续的生死线!据麦肯锡全球研究院数据显示,AI驱 ...
2025-07-2035岁焦虑像一把高悬的利刃,裁员潮、晋升无望、技能过时……当职场中年危机与数字化浪潮正面交锋,你是否发现: 简历投了10 ...
2025-07-20CDA 数据分析师报考条件详解与准备指南 在数据驱动决策的时代浪潮下,CDA 数据分析师认证愈发受到瞩目,成为众多有志投身数 ...
2025-07-18