京公网安备 11010802034615号
经营许可证编号:京B2-20210330
企业没有大数据,只有坏数据
很多企业经常会吹嘘自己拥有多少 TB,甚至是 PB 的数据量,还有它们的大型数据科学家团队正在使用 Apache Kafka 流运行海量的 Hadoop 集群,这些企业认为这些都是它们的竞争优势所在。
然而,事实上它们当中的大多数都遇到了计算机领域的一个老生常谈的问题:无用输入,无用输出(garbage in, garbage out)。它们不仅没有符合大数据定义的数据复杂度或数据量,而且它们拥有的实际上是劣质数据,它们的业务甚至有可能会因此蒙受损失。根据 Experian Data Quality 的数据,88%的企业的收支情况都会受到不准确数据的影响,而且受影响的营收比例高达 12%。
优质的大数据
部分企业确实拥有优质的数据,而且知道如何运用它。从像谷歌这样的成熟网络公司,到像波音这样的工程背景企业,下文列出的企业都能够成功地管理海量的数据,并将其用于实现真正数据驱动的决策。
Netflix:为用户提供他们想要的东西。 占据美国三分之一互联网高峰流量的 Netflix 会收集大量关于用户观影习惯的数据,而且它还可以将这些数据按照地区、观看时段、观看时长等各种项目进行细分。这种方式使得他们能够准确地预测观众喜欢的内容。
能够很好的证明这点的例子是,Netflix 现在已经从一个 DVD 点播和流媒体服务发展成为一家独立的影视制作公司,诸如《纸牌屋》和《女子监狱》这样的热门剧集都是他们的作品。他们的原创剧集甚至摒弃了传统的单集试播模式,而是而是选择一次性地制作整季的剧集。
IBM和 The Weather Company:理解天气对业务的影响。IBM 已经和 The Weather Company 建立了合作关系,它们将各自的海量数据组结合起来,并从中分析出天气对公司业务的影响。这项分析涵盖了从零售业到保险业等各个领域,它们能够准确的提供实时的分析结果,例如温度变化对销量的影响,或者保险公司如何通过建议客户驾车出行的方法来节省成本。
西奈山伊坎医学院:预测病人的健康。 这所位于纽约市的医学院已经任命了杰夫·哈默巴赫(Jeff Hammerbacher)——Facebook 的首位数据科学家担任一个计算机开发项目的主管,这个项目的目标是分析他们每年收治的 50 万位病人的医疗信息。
在西奈山基因组学与多尺度生物学研究院院长的协助之下,他们正在研究如何做出能够降低医疗成本的预测——例如通过分析病人的既往病史和风险因素来确定他们所需的治疗频率,或者为医生提供来自基因组学和实验数据收集得出的风险模型,帮助他们为病人制定治疗方案。
亚马逊:设立客户服务的新标准。 亚马逊拥有前所未有的用户数据——从他们正在阅读的书籍到他们补充化妆棉的频率。正当其他公司都将客户支持放在次要地位的时候,亚马逊已经将其变成了自身业务的一个重点,它非常强调与消费者进行直接沟通的重要性。凭借自身丰富的用户数据,亚马逊能够在用户有需要的时候立刻提供相关的信息,在简化客户服务流程的同时还能巩固他们的忠诚度。
施乐:减少员工流失。 工作经历一向都是新员工招聘当中的一个重要参考因素,但是在为自己的电话服务中心招聘的时候,施乐发现了一个完全不同的参考标准,这点使得它更容易找到合适的人才。施乐利用大数据分析发现员工的个性才是决定他们留任与否的真正因素——富有创意的人会更倾向于坚持下来,爱管闲事的人则不然。在掌握了这些信息之后,施乐开始通过应聘者调查(而不是招聘主管的决定)为自己的电话服务中心进行招聘,最终使得它所有电话服务中心的半年员工流失率下降了 20%。
然而,大部分企业都不能很好地利用数据。
劣质的大数据
一直以来,企业都没有花时间去思考它们应该收集什么数据,还有采用怎样的方式来收集数据。在数据的海洋中,他们不是使用长矛精准地捕捉渔获,而是习惯于一网打尽,结果它们收集到的是一堆没有任何预先计划和结构条理的垃圾。这种对困难决策的拖延态度导致大型企业的数据科学团队只能将大部分的时间花在清理、分类和组织数据之上,而且这些工作只能使用手动或者半自动的方式来完成。
“利用智能、实用的数据进行发展是每家企业都应该追求的目标。”
美国政府最近任命的首席数据科学家 DJ·帕蒂尔(DJ Patil)很好地总结了数据的问题 ,他表示,“你在开始之前必须懂得一个非常基础的概念:数据是混乱不堪的,而且数据清理工作总会占据 80%的时间。换句话说,数据本身就是问题的所在。”
然而我们看到的也并非只有坏消息。根据产业研究公司 Wikibon 的数据,在企业对数据工具投资当中,有 52%的资金流向了用于采集和组织数据的技术之上,让数据的获取和分析变得更容易。但是处理这个难题的关键也许不只是在更多或更好的工具上投资。
为你的企业应用大数据
如果要将企业真正转变为一家以数据为导向的公司,以下是一些值得关注的指引和方法,它们经过了世界一流的数据公司的实践检验。
了解你自己。 从了解你需要分析的数据类型开始——你要的是事件数据、财务数据、图表数据还是其他东西?在确定你需要以怎样的程度来收集数据的时候, 这是最重要的考虑因素。
不要过度授权。 许多企业都会将建立分析的工作交给外包开发者或者 IT 部门负责,没有让真正的商业用户参与其中——那些准备使用这些数据的人应该准确了解数据的收集和汇总方式,这是至关重要的一点,因为这样可以避免他们在使用的过程当中出现重大的问题。
确定使用实例。 作为“不要过度授权”的推论,企业也不应该让商业用户给出过于宽泛(例如,“我们想要追踪销售的来源”)或者无关紧要的使用实例。每一份数据都应该符合某一个分析架构,而且可以用于解决某一个问题。这里就需要指派一位技术性很强的商业用户或者具有商业头脑的技术领导负责最终的决定。
从源头抓起。 无用输入,无用输出。请确保你对数据的来源和类型了如指掌。你的数据从何而来?它足够准确吗?如果你不知道这些问题的答案,那么你应该开始认真思考了。
使用合适的工具来完成工作。 现在已经有很多非常优秀的分析工具。在确定了你的商业用户和终端用户的重点使用实例之后,你应该进行一个正式的比较流程,根据你自己的需求剔除一些你永远都用不上的高级功能。
大数据本身是愚蠢的。利用智能、实用的数据进行发展是每家企业都应该追求的目标。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28在数据可视化领域,单一图表往往难以承载多维度信息 —— 力导向图擅长展现节点间的关联结构与空间分布,却无法直观呈现 “流量 ...
2025-10-27这个问题问到了 Tableau 中两个核心行级函数的经典组合,理解它能帮你快速实现 “相对位置占比” 的分析需求。“index ()/size ( ...
2025-10-27对 CDA(Certified Data Analyst)数据分析师而言,“假设检验” 绝非 “套用统计公式的机械操作”,而是 “将模糊的业务猜想转 ...
2025-10-27在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24在数据决策链条中,“统计分析” 是挖掘数据规律的核心,“可视化” 是呈现规律的桥梁 ——CDA(Certified Data Analyst)数据分 ...
2025-10-24在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22