京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据的关键不是“大”,而是你真的需要它吗?
诸如我们听到的、看到的和正在自觉或不自觉地参与的,大数据已成为一项大工程,它无处不在。我们对待它就像在迎接自己的终生伴侣,兴奋之情溢于言表。每个人都在想:“嘿,大数据时代来了,我能从中得到什么好处呢?”从社交媒体、初创公司到北京的中关村,人们都在研究和部署大数据。
但是,正如前面我们提到的,大数据不是无源之水,你需要一个充足的理由来为它打开大门,让它进入你的世界;同时,你还需要为此付出不菲的代价。大多数公司缺乏预算,它们花不了大价钱来部署大数据技术解决方案,也请不起相关团队和大数据工程师。
大数据首先是一项产业,根据一份报告显示,2012年大数据带动了全球近300亿美元的IT支出,预计再过4年这个数字将超过2500亿美元。还有许多新兴国家难以预料的市场空间没有计算在内。要知道,这几乎是一个中等发达国家的全年国内经济总产值了。
那些使用大数据的辉煌案例到处都是,但距离某些特定人群总是如此遥远。比如,脸书的推广人员骄傲地说,他们每天要存储大约100TB的用户数据;美国国家安全局(NSA)每天要处理约24TB的数据。惊人的数字!确实令我们印象深刻。可是处理这些数据所需要的成本是多少呢?根据一项公开资料显示,NSA需要为45天的数据存储服务支付超过百万美元的费用,这个成本还在继续增加。在我几年的走访中,大多数公司的CIO也对我说,他们的预算支付不起大数据部署的成本。
所以,这是昂贵的门槛——公司如果想获得大数据服务,第一件要解决的事情就是提供充足的财务预算。
没钱?对不起,这不是卖白菜,也不是批发廉价商品或请几个经理人那么简单。因此我经常听到人们抱怨:“大数据太贵了!”个人和企业都在仰天叹息,但同时又充满渴望。问题是,你真的需要它吗?
数据存储和处理的成本如此之高,成本变成了阻碍每一个人拥抱大数据的最大障碍,就像其他一切新生事物一样。以至于我们普通人——中小企业需要寻求其他的解决方案,让规模较小的公司和个体不被“大数据”拒之门外。
方案一:大数据的关键不是“大”。
大数据就一定“大”吗?虽然全球最大的科技公司都需要和PB级规模的数据打交道,它们当之无愧地成为对海量数据处理达到星级服务的用户。然而,我们的研究也表明,另外有95%的公司通常只需要使用0.5TB到40TB的数据,甚至更少。
脸书和NSA的故事并不能拿来作为普及版案例,它们不是常态。事实是,大公司的方案没有必要成为中小公司效仿的版本。在全美有5万多家公司的员工只有20到500人,它们大部分都有解决数据问题的需求,但它们并没有向脸书和NSA看齐,去建立一个成本高昂的数据帝国。
所以你看到,大数据市场最大的需求并不是那些居于世界前500强的大公司,而是排名在500到5万之间的公司。我们为何只关注那些极少数的例外,而忽视了普通的需求者呢?
将自己排除在PB级规模数据需求的用户之外,我们才有可能找到真正的方案。当大数据向我们走来时,我们应尽可能选择一个较小的接口,一样能享受同等的服务和便捷。
方案二:确定你是否真的需要它。
在向人们普及大数据时我经常在想,如果我们改变了大数据的定义,会发生什么?换一个角度,用更宏观的思维来思考它,你就能够跳出来,站在自我需求的角度去进行思考。
我们不妨这样考虑:“大数据是一种主观状态,它描述的是一个公司(个人)的基础架构(现状)无法满足其对于数据处理的需求时的情形。”
从某种意义上来说,这个判断是“灰色”的,可能没有人们想象的那么灿烂美好。没有需求就不需要大数据。不过它更贴近事实:不是所有人都必须与大数据时代接轨,当你看到它扑面而来时,你要做的第一件事是确定自己是否真的需要它,然后再采取恰当的行动。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
日常用Excel做数据管理、台账维护、报表整理时,添加备注列是高频操作——用来标注异常、说明业务背景、记录处理进度、补充关键 ...
2026-03-23作为业内主流的自助式数据可视化工具,Tableau凭借拖拽式操作、强大的数据联动能力、灵活的仪表板搭建,成为数据分析师、业务人 ...
2026-03-23在CDA(Certified Data Analyst)数据分析师的日常工作与认证考核中,分类变量的关联分析是高频核心场景。用户性别是否影响商品 ...
2026-03-23在数据工作的全流程中,数据清洗是最基础、最耗时,同时也是最关键的核心环节,无论后续是做常规数据分析、可视化报表,还是开展 ...
2026-03-20在大数据与数据驱动决策的当下,“数据分析”与“数据挖掘”是高频出现的两个核心概念,也是很多职场人、入门学习者容易混淆的术 ...
2026-03-20在CDA(Certified Data Analyst)数据分析师的全流程工作闭环中,统计制图是连接严谨统计分析与高效业务沟通的关键纽带,更是CDA ...
2026-03-20在MySQL数据库优化中,分区表是处理海量数据的核心手段——通过将大表按分区键(如时间、地域、ID范围)分割为多个独立的小分区 ...
2026-03-19在商业智能与数据可视化领域,同比、环比增长率是分析数据变化趋势的核心指标——同比(YoY)聚焦“长期趋势”,通过当前周期与 ...
2026-03-19在数据分析与建模领域,流传着一句行业共识:“数据决定上限,特征决定下限”。对CDA(Certified Data Analyst)数据分析师而言 ...
2026-03-19机器学习算法工程的核心价值,在于将理论算法转化为可落地、可复用、高可靠的工程化解决方案,解决实际业务中的痛点问题。不同于 ...
2026-03-18在动态系统状态估计与目标跟踪领域,高精度、高鲁棒性的状态感知是机器人导航、自动驾驶、工业控制、目标检测等场景的核心需求。 ...
2026-03-18“垃圾数据进,垃圾结果出”,这是数据分析领域的黄金法则,更是CDA(Certified Data Analyst)数据分析师日常工作中时刻恪守的 ...
2026-03-18在机器学习建模中,决策树模型因其结构直观、易于理解、无需复杂数据预处理等优势,成为分类与回归任务的首选工具之一。而变量重 ...
2026-03-17在数据分析中,卡方检验是一类基于卡方分布的假设检验方法,核心用于分析分类变量之间的关联关系或实际观测分布与理论期望分布的 ...
2026-03-17在数字化转型的浪潮中,企业积累的数据日益庞大且分散——用户数据散落在注册系统、APP日志、客服记录中,订单数据分散在交易平 ...
2026-03-17在数字化时代,数据分析已成为企业决策、业务优化、增长突破的核心支撑,从数据仓库搭建(如维度表与事实表的设计)、数据采集清 ...
2026-03-16在数据仓库建设、数据分析(尤其是用户行为分析、业务指标分析)的实践中,维度表与事实表是两大核心组件,二者相互依存、缺一不 ...
2026-03-16数据是CDA(Certified Data Analyst)数据分析师开展一切工作的核心载体,而数据读取作为数据生命周期的关键环节,是连接原始数 ...
2026-03-16在用户行为分析实践中,很多从业者会陷入一个核心误区:过度关注“当前数据的分析结果”,却忽视了结果的“泛化能力”——即分析 ...
2026-03-13在数字经济时代,用户的每一次点击、浏览、停留、转化,都在传递着真实的需求信号。用户行为分析,本质上是通过收集、整理、挖掘 ...
2026-03-13