京公网安备 11010802034615号
经营许可证编号:京B2-20210330
为什么说你的数据不是大数据
现如今,我们已经能够保存下每个业务流程当中的数据,甚至已经可以保存下用户访问页面的数据或者观众观看哪些节目的数据。物联网的出现改变了游戏规则,为我们开启了一扇门。然而每一条数据、每一条记录的价值却在下降。
可以这样说,一条信用卡的交易记录是相对丰富的数据,它包含了人、地点、时间以及更多附加在数据上的价值,因此很自然我们想要收集这些数据,用来促进销售的循环。然而相比而言,一条用户在网上的浏览点击行为数据就没有那么“值钱”了。这些数据也许包含了用户的行为习惯信息,但单独拿出一条记录也许是没有任何价值的。你只有在想要分析用户的行为时,才会大量收集这样的数据。
而现在的情况是,存储这些数据的成本是比较低的,而且你收集越多的数据,通过比对不同的趋势,你就可能获得更多的价值。拿观众观看电视的数据来说,大量收集这些记录,然后与节目表和广告数据整合在一起进行分析,就能更好地理解观众喜欢什么样的节目,爱看什么样的电视剧,客户也可以更精准地投放广告。这时候大数据的价值就会凸显出来,就像最近火的一塌糊涂的《纸牌屋》。
因此我们可以判断,当应对大量的记录时,如果每一条单独记录越小(数据量,关联性),那么它是大数据的可能性就越大。而“大数据分析”所面临的挑战是,从这些信息的小小元素中提炼出意义,我们可能要把它们与上述的丰富的数据放到一起来提供上下文,识别其中隐藏着的模式。这算不上是大海捞针,更准确的说法应该是从一堆针头中找到你所需要的那一个。
大数据与“热”数据
还有一种常见的错误观点,即你不仅拥有很多数据,而且用户访问这些数据的频率很高,因此就需要我们用“大数据思维”来处理这些数据。
这些数据其实不一定是大数据,而是所谓的“热数据”,它们并不适用于处理大数据的方式。热数据是纯粹的扩展性问题,你需要把系统的性能调整到最佳,降低系统的延迟同时确保它能够被所有提出访问需求的用户访问到。
大数据与它正相反,我们可以说它是“冷数据”。也就是说,大数据并不是你频繁访问的数据,除了作为分析之用,甚至你从来不会去用到它。事实上,除了分析之外,我们可以把大数据“冷冻”起来。尽管有时候我们会把大数据与新鲜快速的记录一起进行分析,但大数据池至少需要从概念上与活动的热数据隔离开来。否则二者会互相造成不良的影响。将冷热数据分开存储是公认的最佳实践,无论是存储还是应用,它们都是完全不同的数据。
很不幸的是,有很多人并没有认清这一点,他们还在将大数据处理方式应用到各种各样的数据类型当中。最终的结果也就可想而知。
不要轻视其他数据的价值
现在,你需要从大数据的狂热中退一步思考,你现在最重要的数据也许并不是那些大数据,而是我们所说的热数据。你也许已经建立了大数据系统,时刻准备从大数据金矿上挖掘潜在的价值,但一定不要忽视其他数据的价值。你还有业务数据,它需要你快速、高效、一致地交付这些数据,同时要解决扩展性的问题。记住,大数据的最佳实践并不适合这些数据。你的数据也许这是一些重要的有价值的数据,它们并不是大数据。
CDA学员免费下载查看报告全文:2026全球数智化人才指数报告【CDA数据科学研究院】.pdf
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据驱动运营的时代,指标是连接业务目标与实际行动的核心桥梁,是企业解读业务现状、发现问题、预判趋势的“量化标尺”。一套 ...
2026-05-08在存量竞争日趋激烈的商业时代,“以客户为中心”早已从口号落地为企业运营的核心逻辑。而客户画像作为打通“了解客户”与“服务 ...
2026-05-08 很多数据分析师每天与Excel打交道,但当被问到“什么是表格结构数据”“它和表结构数据有什么区别”“表格结构数据有哪些核 ...
2026-05-08在数据分析、计量研究等场景中,回归分析是探究变量间量化关系的核心方法,无论是简单的一元线性回归,还是复杂的多元线性回归、 ...
2026-05-07在数据分析、计量研究等场景中,回归分析是探究变量间量化关系的核心方法,无论是简单的一元线性回归,还是复杂的多元线性回归、 ...
2026-05-07 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-05-07在数字化时代,商业竞争的核心已从“经验驱动”转向“数据驱动”,越来越多的企业意识到,商业分析不是简单的数据统计与报表呈现 ...
2026-05-06在Excel数据透视表的实操中,“引用”是连接透视表与公式、辅助数据的核心操作,而相对引用作为最基础、最常用的引用方式,其设 ...
2026-05-06 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-05-06在Excel数据分析中,数据透视表是汇总、整理海量数据的高效工具,而公式则是实现数据二次计算、逻辑判断的核心功能。实际操作中 ...
2026-04-30Excel透视图是数据分析中不可或缺的工具,它能将透视表中的数据快速可视化,帮助我们直观捕捉数据规律、呈现分析结果。但在实际 ...
2026-04-30 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-04-30在中介效应分析中,人口统计学变量(如年龄、性别、学历、收入、职业等)是常见的控制变量或调节变量,其处理方式直接影响分析结 ...
2026-04-29在SQL数据库实操中,日期数据的存储与显示是高频需求,而“数字日期”(如20240520、20241231、45321)是很多开发者、数据分析师 ...
2026-04-29 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-04-29在手游行业竞争日趋白热化的当下,“流量为王”早已升级为“留存为王”,而付费用户留存率更是衡量一款手游盈利能力、运营质量的 ...
2026-04-28在日常MySQL数据库运维与开发中,经常会遇到“同一台服务器上,两个不同数据库(以下简称“源库”“目标库”)的表数据需要保持 ...
2026-04-28 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-04-28箱线图(Box Plot)作为一种经典的数据可视化工具,广泛应用于统计学、数据分析、科研实证等领域,核心价值在于直观呈现数据的集 ...
2026-04-27实证分析是社会科学、自然科学、经济管理等领域开展研究的核心范式,其核心逻辑是通过对多维度数据的收集、分析与解读,揭示变量 ...
2026-04-27