京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据分析:大数据小数据,有用的就是好数据
大数据到底有多大?
在 2001 年,道格 · 莱尼(Doug Laney)写下了一篇具有开创性意义的文章。在这篇文章中,莱尼描绘了一直困扰着他的客户的一个数据问题。莱尼的客户受困于体量(Volume)过于庞大的数据,这些数据正在以爆发式的速度(Velocity)增长,同时数据所呈现的形式也非常多样化(Variety)。莱尼的体量、速度和多样化理论得到了广泛认可,并被称为「大数据的三重奏」。
遗憾的是,许多人并没有抓住莱尼的重点。他在文章中所描述的是大数据所蕴含的问题,而不是优势。
想要收集大数据其实并不容易,而且收集和使用的成本往往非常高昂。与此同时,在一般情况下大数据和具体商业问题的关联度其实并不明显,遑论大数据往往不能满足品质标准的要求。况且在面对大数据时,管理数据所投入的资源并不能在分析、二次研究以及执行等环节中使用。由此看来,大数据对于许多人而言其实并不是一个祝福。相反,大数据有可能会严重摊薄企业在数据分析环节所需要的资源。
数据2
和其他问题相比,某些问题往往会显得更加重要,而某些问题则往往会显得更为复杂。但即便是在解决那些非常重要或复杂问题的时候,我们也不一定需要体量庞大的数据。
我最喜欢的例子之一是载人航天计划,你只需要考虑想要活着将人送到太空所需要的所有信息和计算,就不难理解这是一个多么复杂的问题。载人航天任务所涉及的数据包括:
宇航员的身体状况和医学信息
地理测量学(航天器的位置)和重力场
气象学,云层量和辐射平衡
大气物理学
磁场强度
宇宙射线和辐射捕获量
电磁辐射(紫外线、X 射线和伽玛射线
这份清单只是所需清单中的一小部分,但它所包含的信息量已经非常庞大。甚至连笔者本人也不清楚这些信息到底意味着什么,他只是从一份老旧的 NASA 文件中找到这份清单。(有谁知道行星际介质的测量方法吗?)
载人航天计划所需要的数据到底有多少?与之匹配的计算能力又该有多少?这两个问题的答案你能猜出来吗?
笔者曾有幸和「水星计划」(Mercury Project,美国第一个载人航天计划)的编程人员露西 · 西蒙 · 拉科夫(Lucy Simon Rakov)进行会谈,她向我描述了项目所使用的电脑。据拉科夫描述,尽管项目中的电脑性能非常强大,但内存却只有 300 千字节。你没有看错,不是「艾字节」,不是「拍字节」,也不是「兆字节」,而是「千字节」!
换而言之,只要你足够聪明,你就可以凭借内存极小的设备将航空器送上太空,要知道 300 千字节的内存甚至连存储一张大一点的图片也不够。由此看来,小小的空间其实也大有所为!
尽管如此,大数据有时会变得相当宝贵,与其价值相比,处理中的烦恼和成本甚至也变得不值一提。
大数据有什么好处?
大数据可以针对用户提供定制化的细节数据,有了这些数据,你可以作出更加明智的决策。实际上,有了大数据的帮助,你在顷刻间即可完成上千项决策。
如果说你可以一个接着一个地观察用户,你会更了解他们的习惯、喜好和需求。你会更了解如何和他们相处。只要数据的准确度和质量得当,大数据可以让你以定制化的方式与用户保持亲近,就像对待朋友一样。
你可以通过分析数据中的节为用户提供个性化服务,客户可以从你身上获得类似于亚马逊(Amazon)或者 Netflix 的针对性服务。更加显著的例子是在线婚恋网站的配对服务。
我需要大数据吗?
除非你已经可以在工作中善用日常更小级别的数据,否则大数据对你而言还言之过早。更重要的是,不论面对的是大数据还是小数据,最重要的是你可以善用数据,并将其转化成自己的强力武器。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析、质量控制、科研实验等场景中,数据波动性(离散程度)的精准衡量是判断数据可靠性、稳定性的核心环节。标准差(Stan ...
2026-01-29在数据分析、质量检测、科研实验等领域,判断数据间是否存在本质差异是核心需求,而t检验、F检验是实现这一目标的经典统计方法。 ...
2026-01-29统计制图(数据可视化)是数据分析的核心呈现载体,它将抽象的数据转化为直观的图表、图形,让数据规律、业务差异与潜在问题一目 ...
2026-01-29箱线图(Box Plot)作为数据分布可视化的核心工具,能清晰呈现数据的中位数、四分位数、异常值等关键统计特征,广泛应用于数据分 ...
2026-01-28在回归分析、机器学习建模等数据分析场景中,多重共线性是高频数据问题——当多个自变量间存在较强的线性关联时,会导致模型系数 ...
2026-01-28数据分析的价值落地,离不开科学方法的支撑。六种核心分析方法——描述性分析、诊断性分析、预测性分析、规范性分析、对比分析、 ...
2026-01-28在机器学习与数据分析领域,特征是连接数据与模型的核心载体,而特征重要性分析则是挖掘数据价值、优化模型性能、赋能业务决策的 ...
2026-01-27关联分析是数据挖掘领域中挖掘数据间潜在关联关系的经典方法,广泛应用于零售购物篮分析、电商推荐、用户行为路径挖掘等场景。而 ...
2026-01-27数据分析的基础范式,是支撑数据工作从“零散操作”走向“标准化落地”的核心方法论框架,它定义了数据分析的核心逻辑、流程与目 ...
2026-01-27在数据分析、后端开发、业务运维等工作中,SQL语句是操作数据库的核心工具。面对复杂的表结构、多表关联逻辑及灵活的查询需求, ...
2026-01-26支持向量机(SVM)作为机器学习中经典的分类算法,凭借其在小样本、高维数据场景下的优异泛化能力,被广泛应用于图像识别、文本 ...
2026-01-26在数字化浪潮下,数据分析已成为企业决策的核心支撑,而CDA数据分析师作为标准化、专业化的数据人才代表,正逐步成为连接数据资 ...
2026-01-26数据分析的核心价值在于用数据驱动决策,而指标作为数据的“载体”,其选取的合理性直接决定分析结果的有效性。选对指标能精准定 ...
2026-01-23在MySQL查询编写中,我们习惯按“SELECT → FROM → WHERE → ORDER BY”的语法顺序组织语句,直觉上认为代码顺序即执行顺序。但 ...
2026-01-23数字化转型已从企业“可选项”升级为“必答题”,其核心本质是通过数据驱动业务重构、流程优化与模式创新,实现从传统运营向智能 ...
2026-01-23CDA持证人已遍布在世界范围各行各业,包括世界500强企业、顶尖科技独角兽、大型金融机构、国企事业单位、国家行政机关等等,“CDA数据分析师”人才队伍遵守着CDA职业道德准则,发挥着专业技能,已成为支撑科技发展的核心力量。 ...
2026-01-22在数字化时代,企业积累的海量数据如同散落的珍珠,而数据模型就是串联这些珍珠的线——它并非简单的数据集合,而是对现实业务场 ...
2026-01-22在数字化运营场景中,用户每一次点击、浏览、交互都构成了行为轨迹,这些轨迹交织成海量的用户行为路径。但并非所有路径都具备业 ...
2026-01-22在数字化时代,企业数据资产的价值持续攀升,数据安全已从“合规底线”升级为“生存红线”。企业数据安全管理方法论以“战略引领 ...
2026-01-22在SQL数据分析与业务查询中,日期数据是高频处理对象——订单创建时间、用户注册日期、数据统计周期等场景,都需对日期进行格式 ...
2026-01-21