京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据,为什么不是传统BI的简单升级
大数据,为什么不是传统BI的简单升级?
大数据(Big Data),指在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。
不管定义如何不同,大数据与传统BI是社会发展到不同阶段的产物,大数据对于传统BI,既有继承,也有发展,从”道”的角度讲,BI与大数据区别在于前者更倾向于决策,对事实描述更多是基于群体共性,帮助决策者掌握宏观统计趋势,适合经营运营指标支撑类问题,大数据则内涵更广,倾向于刻画个体,更多的在于个性化的决策。
基于这个特点,大数据很容易在生产中形成基于个体的评估和闭环反馈网络,BI则由于偏向宏观而难以在生产中贯彻执行从而产生实际价值,因此,当前的大量的新数据应用领域,实际BI是没有覆盖的,比如RTB广告、智能制造、个性医疗等等。
当然纯粹从思想的角度讲,两者在概念上是可以实现统一的,都遵循数据-信息-知识-智慧这个脉络,甚至在更高的层次,两者也是可以统一的,比如这个定义:“世界上万事万物都在被数据化,形成一个与现实世界相关联的数据世界,人类可以利用数据化的方式,应对和解决生存和发展问题。”
因此很多人说BI跟大数据没区别,的确是这样,没必要抬高大数据,但由此认为两者价值也差不多,那也有问题,它忽略了”术”的不同,由此造成应用的巨大差别。
举个例子:神经网络理论几十年前就有,为啥直到现在才有深度学习突破性的进展,关键是其”术”的能力提高了,一定程度讲,大规模数据并行处理让这个理论焕发了新生。
理念是一回事,付诸实践是另一回事,因此,我们还是要从“术”的角度来阐述大数据与传统BI的区别,事实上,传统BI,由于其术的限制,已经达到了一定瓶颈。
传统BI厂家喊了多少年的”帮助企业做出明智的业务经营决策”,现在除了一堆报表系统,搞了一些决策树等统计算法,还剩下什么呢?传统企业引入了那么多的BI咨询,写了那么多报告,真正发生过价值的有多少?BI已死也并非空穴来风。
如果搞BI的还在原有的地方转圈圈,不去变革,除了空喊我也是大数据,没有意义,因为数据价值最终还得看落地的能力。
大数据的4V特征大家都懂,大数据在量、维度、速度等方面相对于传统BI的改变的确让数据改造世界的能力发生了质的变化,那么,大数据的“术”于传统BI到底有哪些变化?传统企业需要做哪些改变呢?
1、超越BI,拓展新的业务边界
大数据不是绣花枕头,它的第一要务就是解决业务问题,大数据一定程度上讲就是用全新的数据技术手段来拓展和优化业务,传统企业需要聚集一拨人来研究这个问题。
如果对外,想清楚新的商业模式,如果对内,想清楚在哪个场景,可以用大数据的手段来提升效率。
当前大数据可以产生价值的地方,从行业的角度看,互联网、制造业、公共服务、医疗保健、金融服务都有广阔前景。
从领域的角度看,广告、营销、风控、供应链都是大数据发挥价值的地方,对于特定企业,比如电信运营商,大数据也可以在网络优化等方面提供新的方法。
大数据应用场景是企业特别需要想清楚的地方,传统BI失败,一定程度讲,是技术推动业务导致的倒挂现象所致,是高估传统BI利用数据的能力所致,比如大量领域用传统BI产生不了生产力,当然也少不了忽悠。
大数据也面临这个重大问题,但应该看到,随着大数据概念的普及,应用领域的大幅延伸,企业的管理和业务人员对于数据的认识有了很大的转变,数据化的思维开始深入人心,对于大数据来说,是一个新的机会。
不业务,无大数据。
2、颠覆BI,打造大数据技术引擎
这是当前大数据领域最火的地方,很多企业纷纷在建设自己的大数据台,不外乎解决以下问题,以下仅举例。
比如用Hadoop、流处理等技术解决海量的结构化、非结构化数据的ETL问题,用Hadoop、MPP等技术计算海量数据的计算问题,用redis、HBASE等方式解决高效读的问题,用Impala等技术实现在线分析等问题。
本质是基于廉价的机器,采用去中心化,分布式的方式去解决海量结构,非结构化数据的存储、处理和读写的问题。
要理解这个,其实去读懂Google的三篇论文就可以了,分别是关于Google File System、Google Bigtable及Google MapReduce的。
但并不是每个企业都需要打造自己的大数据平台,量力而行吧,可以自研 ,比如BAT,也可以采购,比如传统大企业,也可以租用,比如用阿里云和AWS。
在技术上,传统BI的ETL、数据仓库、OLAP、可视化报表技术,都处于淘汰的边缘,因为它解决不了海量数据(包括结构化与非结构化)的处理问题,其所有的功能都可以被对应的大数据组件所替代,因此不再有发展前途,大多数企业即使没有大数据业务的驱动,但大数据技术的成本优势在那里,不做大数据也倒逼你用大数据技术,是不?
当然传统BI那套,也将长期存在,毕竟大数据的普及和应用是个漫长的过程,传统企业对于大数据技术稳定性的担忧也是个障碍,但企业至少要末雨绸缪了,趋势不可挡啊,大数据技术会越来越成熟。
我记得自己的企业1年前还在用DB2,仅一年的时间,GBASE就把它替换了。我们总是低估了技术革命对于我们自身的影响程度。
3、重塑BI,升级人员的知识结构
有了业务,也有了技术,再来看看人吧,很多企业在热火朝天的建设大数据平台,但建完之后,却发现仍然是个报表系统,或者仍然是原来的BI,领导一看,会感叹,不就是换了个马甲啊,大数据有啥用?
很多企业,它可以有很多的预算购买很贵的机器和软件,但对于引入人才和培养人才却有点力不从心,买了1个亿的大数据硬件和软件,却希望原来的BI班底就能带来大数据应用的繁荣,那也是差强人意的事情,新品装旧酒,原来班底能搞定公司的报表系统就已经很好了。
为什么传统BI人员搞不定?
大数据需要有人专门研究和探索,传统BI人员时间精力有限,此为其一,不是否定BI人员的能力,只是表达不要奢望BI人员既做个合格的报表哥,又是个大数据创新达人,企业要能做些取舍。
大数据的数据处理,涉及太多新的技术,传统BI只要懂点SQL就可以活的很好了,但现在看看,不同的应用场景需要不同的大数据处理方法了,而且不再有人机交互那么好的客户端了,至少要懂流处理、HADOOP、列式或分布式键值数据库吧,大数据对于BI人员的技能要求其实大幅提高了,此其二。
大数据更强调全量了,原来的BI挖掘人员,搞一些样本在单机上运行个R就很欢乐,但现在不行了,针对5000万用户搞个三度交往圈试试?传统方式在BI时代大都尝试过了,只有更新方法,才能带来新的机会,比如,至少要求建模师会在SPARK上开发算法程序吧,对于用户画像、产品标签化、推荐系统、排序算法都应有所理解,此其三。
人才是大数据的核心要素,没有人的投入,不能奢望有啥产出,需要多点人才的引入和培养,少点大数据的心灵鸡汤,大数据绝对不是大忽悠,如果有所怀疑,就问问你这个企业有多少人是在做大数据研究和实践的。
因此,大数据相对于传统BI,不是简单的PLUS的关系,它涉及了思想、工具和人员深层次的变革,BI人员既不要一提大数据,就嗤之以鼻,认为它是新包装的马甲,其实就那么回事;也不需妄自菲薄,以为搞大数据就那么高大上,它的确是BI大多数思想的传承,传统BI对于数据的处理思想,都可以用于大数据。
顺应大势,更新自己,奋起直追,重装上阵,是BI应有的态度。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
数据分析的核心价值在于用数据驱动决策,而指标作为数据的“载体”,其选取的合理性直接决定分析结果的有效性。选对指标能精准定 ...
2026-01-23在MySQL查询编写中,我们习惯按“SELECT → FROM → WHERE → ORDER BY”的语法顺序组织语句,直觉上认为代码顺序即执行顺序。但 ...
2026-01-23数字化转型已从企业“可选项”升级为“必答题”,其核心本质是通过数据驱动业务重构、流程优化与模式创新,实现从传统运营向智能 ...
2026-01-23CDA持证人已遍布在世界范围各行各业,包括世界500强企业、顶尖科技独角兽、大型金融机构、国企事业单位、国家行政机关等等,“CDA数据分析师”人才队伍遵守着CDA职业道德准则,发挥着专业技能,已成为支撑科技发展的核心力量。 ...
2026-01-22在数字化时代,企业积累的海量数据如同散落的珍珠,而数据模型就是串联这些珍珠的线——它并非简单的数据集合,而是对现实业务场 ...
2026-01-22在数字化运营场景中,用户每一次点击、浏览、交互都构成了行为轨迹,这些轨迹交织成海量的用户行为路径。但并非所有路径都具备业 ...
2026-01-22在数字化时代,企业数据资产的价值持续攀升,数据安全已从“合规底线”升级为“生存红线”。企业数据安全管理方法论以“战略引领 ...
2026-01-22在SQL数据分析与业务查询中,日期数据是高频处理对象——订单创建时间、用户注册日期、数据统计周期等场景,都需对日期进行格式 ...
2026-01-21在实际业务数据分析中,单一数据表往往无法满足需求——用户信息存储在用户表、消费记录在订单表、商品详情在商品表,想要挖掘“ ...
2026-01-21在数字化转型浪潮中,企业数据已从“辅助资源”升级为“核心资产”,而高效的数据管理则是释放数据价值的前提。企业数据管理方法 ...
2026-01-21在数字化商业环境中,数据已成为企业优化运营、抢占市场、规避风险的核心资产。但商业数据分析绝非“堆砌数据、生成报表”的简单 ...
2026-01-20定量报告的核心价值是传递数据洞察,但密密麻麻的表格、复杂的计算公式、晦涩的数值罗列,往往让读者望而却步,导致核心信息被淹 ...
2026-01-20在CDA(Certified Data Analyst)数据分析师的工作场景中,“精准分类与回归预测”是高频核心需求——比如预测用户是否流失、判 ...
2026-01-20在建筑工程造价工作中,清单汇总分类是核心环节之一,尤其是针对楼梯、楼梯间这类包含多个分项工程(如混凝土浇筑、钢筋制作、扶 ...
2026-01-19数据清洗是数据分析的“前置必修课”,其核心目标是剔除无效信息、修正错误数据,让原始数据具备准确性、一致性与可用性。在实际 ...
2026-01-19在CDA(Certified Data Analyst)数据分析师的日常工作中,常面临“无标签高维数据难以归类、群体规律模糊”的痛点——比如海量 ...
2026-01-19在数据仓库与数据分析体系中,维度表与事实表是构建结构化数据模型的核心组件,二者如同“骨架”与“血肉”,协同支撑起各类业务 ...
2026-01-16在游戏行业“存量竞争”的当下,玩家留存率直接决定游戏的生命周期与商业价值。一款游戏即便拥有出色的画面与玩法,若无法精准识 ...
2026-01-16为配合CDA考试中心的 2025 版 CDA Level III 认证新大纲落地,CDA 网校正式推出新大纲更新后的第一套官方模拟题。该模拟题严格遵 ...
2026-01-16在数据驱动决策的时代,数据分析已成为企业运营、产品优化、业务增长的核心工具。但实际工作中,很多数据分析项目看似流程完整, ...
2026-01-15