
大数据失败案例之七宗罪
“我们正处于开始阶段,想了解下其他人正在做什么,有哪些成功案例。”Liu说:“而所有的失败案例,也是我们必须学习并加以警惕的。”
很多人有着和Liu一样的想法。Family Dollar Stores Inc.(美国知名折扣零售商,总部位于北卡罗来纳的夏洛特,最近刚被另一家折扣连锁店Dollar Tree Inc.收购)的企业架构总监David Kropman也基于同样原因参加了这次会议。“我们刚开始大数据的探索,想了解正确的应用场景,同时防止自己重蹈其他公司的覆辙。”Kropman表示。
Sicular的报告给出了足够明晰的信息,可以让Kropman和Liu回去分享给各自的团队,避免犯同样的错误。
Kropman说:“大数据项目的失败不单单是因为某个原因,而是由多个因素一起导致的。”
对于大数据项目的失败,Sicular总结出7个主要原因,并划分为三个大类:战略、技能和分析。
战略方面的失败
1.组织惰性。某家旅游公司系统通过web日志数据的挖掘来提升客户洞察。结果证明,用户在浏览网站之后,随后的消费行为模式与管理层所认为的不一致。当团队汇报此事时,管理层认为不值一提。但是,该团队并没有放弃,并通过严密的A/B测试,回击了管理层的轻视。
这个案例的最终结果,不是每个CIO都能期盼的。但是,有一点是可以确定的:做好和管理层打交道的准备,让他们充分理解大数据是什么以及相应的价值。要说对CIO们有什么建议的话,Sicular认为,不要在失败的项目上过多纠缠,重新启动一个新的。
2.选择了错误的应用场景。一家保险公司想了解日常习惯和购买生命保险意愿之间的关联性。由于随后觉得习惯太过于宽泛,该公司将调查范畴限定到是否吸烟上。但是,工作仍然没有实质进展。“不到半年,他们就终止了整个项目,因为一直未能发现任何有价值的信息。”Sicular说。
这个项目的失败是由于问题的复杂性。在抽烟与否之间,该公司没有注意到还有大片灰色地带:很多人是先抽烟而后又戒烟了。在将问题简单化动机的驱动下,这个部分被忽略了。“他们不是医疗健康方面的专家。”Sicular分析到。为此,她提醒听众要对应用案例排定优先级,先易后难,循序渐进。
技术层面的失败
3.无法应对料想之外的问题。一家全球性公司的大数据团队发现了很多深刻的洞察,并且计划通过云让全公司共享。“为此,他们启动了一个云中的项目。”Sicular说。
Sicular认为,这样做是有风险的 – 一个在受控的定制环境中获得成功的项目,未必能适应于生产环境中。“这个团队低估了效率方面的损耗。由于网络拥塞的问题,无法满足全球各个分支顺畅提交数据运行分析的需求。”Sicular分析说。
该公司应该仔细思考下如何支撑大数据项目,梳理所需的技能并协调各IT分支的力量进行支持。“由于网络、安全或基础设施的问题,已经有太多的大数据项目栽了跟头。你必须事先想清楚,需要哪些方面的人手加入到项目中来。”Sicular表示。
4.缺乏大数据分析技能。一家零售公司的首席执行官不认同亚马逊规模化、扁平化的服务模式,因此让CIO构建一个客户推荐引擎。项目最初的规划是半年为期,但是团队很快认识到诸如协同过滤(collaborative filtering)之类的概念无法实现。为此,一个团队成员提出做一个“假的推荐引擎”,把床单作为唯一的推荐产品。
这个假引擎的工作逻辑是:买搅拌机的人会买床单,买野营书籍的人会买床单,买书的人会买床单。就是如此,床单是唯一的、默认的推荐品。
尽管可笑,这个主意其实并不坏,默认的推荐也能给企业带来销售上的提升。但是,由于大数据相关技能的缺失,真正意义上的引擎未能实现。Sicular表示,这是需要很长时间探索和积累的。尽管过程曲折而漫长,不过不用担心,大数据的推进是有明确阶段划分的,对CIO们来说可以有针对性地加以应对。这些阶段包括:
·管理高层表示支持
·大数据战略规划形成
·进行各种测试和验证
·流程上线并不断完善(Sicular称之为战术阶段)
·投资回报开始显现,企业真正体会到大数据的价值(Sicular称之为战略阶段)
·技术领先的企业开始构建真正的数据产品(Sicular称之为转型阶段)
数据分析本身的失败
5.对数据过于相信。2008年,Google第一次开始预测流感就取得了很好的效果,比美国疾病预防控制中心(Centers for Disease Control and Prevention)提前两礼拜预测到了流感的爆发。但是,几年之后,Google的预测比实际情况(由防控中心根据全美就诊数据推算得出)高出了50%。“媒体过于渲染了Google的成功,出于好奇目的而搜索相关关键词的人越来越多,从而导致了数据的扭曲。”Sicular说。
因此,CIO在拿到数据之后,应该从不同角度进行加以审视,确保对数据的来源、验证方法、控制手段以及是否有脏数据等问题都能胸有成竹。
6.提出了错误的问题。一家全球领先的汽车制造商决定开展一个情感分析项目,为期6个月,耗资1千万美元。项目结束之后,该厂商将结果分享给经销商并试图改变销售模式。然后,所得出的结果最终被证明是错误的。
“项目团队没有花足够的时间去了解经销商所面临的问题或业务建议,从而导致相关的分析毫无价值。”Sicular说。
对此,Sicular提到了决策分析中的“满意度(satisficing)”模型 -- 即放弃对最优结果的偏执,基于具体的情境,找到足够好的解决方案。“耐下性子,去真正理解问题以及企业可能从中获得的收益。”Sicular解释说。
7.应用了错误的模型。为了寻找可供借鉴的案例,一位在银行工作的博士研究了其他行业的大数据成功应用。最终,他的目光落在了电信行业的客户流失预测模型上。
该银行从电信业聘请了一位专家,后者也很快构建了评估用户是否即将流失的模型。Sicular表示,当时已进入评测验证的最后阶段,模型很快就将上线,而银行也开始准备给那些被认为即将流失的客户发出信件加以挽留。但是,为了保险起见,一位内部专家被要求对模型进行评估。
这位银行业专家很快发现了令人惊奇的事情:不错,那些客户的确即将流失,但并不是因为对银行的服务不满意。他们之所以转移财产(有时是悄无声息的),是因为感情问题 -- 正在为离婚做准备。
了解模型的适用性、数据抽象的级别以及模型中隐含的细微差别,这些都是非常具有挑战性的。“这是大数据分析的关键之一。”Sicular表示。为了大数据项目的成功,CIO还必须从道德、伦理和心理的角度进行思考。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
机器学习解决实际问题的核心关键:从业务到落地的全流程解析 在人工智能技术落地的浪潮中,机器学习作为核心工具,已广泛应用于 ...
2025-09-09SPSS 编码状态区域中 Unicode 的功能与价值解析 在 SPSS(Statistical Product and Service Solutions,统计产品与服务解决方案 ...
2025-09-09CDA 数据分析师:驾驭商业数据分析流程的核心力量 在商业决策从 “经验驱动” 向 “数据驱动” 转型的过程中,商业数据分析总体 ...
2025-09-09R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01