京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据不是放烟花 不要炫目要务实
在刚刚过去的2014年,不懂点儿大数据,都不好意思跟别人打招呼。但是与大数据概念的持续火热相比,我们发现真正落地的大数据应用并没有想象得那般多,造成这一局面的原因是什么?带着这个疑问,记者采访了专注于数据集成业务的软件提供商Informatica中国区的几位资深技术专家,就大数据的思维、技术和发展等问题与他们进行了深入探讨。
在Informatica公司大中国区首席产品顾问但斌看来,之所以大数据雷声大雨点小,原因在于包括国外在内的很多大数据案例、大数据故事无非是商务智能(BI)、数据仓库(BW)概念的改头换面,只是新瓶装旧酒而已。就如数据仓库一样,建设了近20年才让每个企业真正承认其价值,大数据也不能期望很快就获得成功,需要一个时间上的沉淀。另外,我们也要接受大数据项目的失败率。仍然以数据仓库建设为例,几年前很多报告都显示会有80%的失败率,大数据也会如此,但是失败对后来的成功也有着借鉴意义。
大数据的“大”在过去一段时间内困扰着很多人,似乎只有数据量足够大才能称之为大数据。所幸这一认识误区已经被大多数人所跨越了。但是但斌告诉记者,从对大数据的认识来说,现在还有这样一个错误认识,似乎大数据与精确必须划等号。“这一认识来源于以往。以前由于可获得的数据量比较小,为此我们必须尽量准确的记录下所获得的所有数据,做出KPI供领导参考,采样过程的精确度被放在重要的地位。显然,这种对精确性的执着是信息缺乏时代的产物。”在大数据时代,但斌认为数据的收集问题不再成为困扰,采集全量的数据成为现实,但海量数据的涌现一定会增加数据的混乱性且造成结果的不准确性。“针对这一趋势,我们要接受数据的不精确性,可能有10%的数据是精确的就够了,我们更要看重的是数据的相关性,这才是真正的大数据思维。”
具体到大数据思维,另一个很重要的因素在于接受大数据的不成熟性。虽然大数据早已不像数据仓库一样是从无到有,但是即使是从有到更好,也要经历一个过程,但斌认为可能会用到10-15年。
在这个大数据从不成熟到成熟的演进过程中,必须认识到大数据不是一个纯技术问题,它会包含很多管理、业务方面的内容。并不是说购买了一套数据挖掘工具,组建了一个Hadoop环境就能称为做了大数据。除了设备、技术上的投资,企业还需要从组织架构、人员意识、管理方式、企业文化等方面都有转变。大数据的前期准备工作很多,这是一种思维上的全面变革。
针对这一趋势,越来越多的企业其实已经认识到大数据建设并非IT部门的事情,我们需要的是既懂IT、又懂业务的人才,这也是数据科学家出现的原因所在。一个企业内部的数据集成或者数据质量管理工作是否有价值,在于面对的是否是有效的数据应用和使用者,他们就是数据科学家,只有他们有效的获取和利用了这些数据,才能发挥数据的最大价值。
对于当前企业来说,做大数据,90%的企业都不可能实现放烟花式的很炫的效果,他们首先还是要踏踏实实地解决数据整合、数据质量和主数据管理等问题,而这些恰恰是Informatica公司的核心竞争力所在,也是多年来Informatica所专注的业务。目前Informatica已经有了11个方面、30多小项的解决方案,Informatica数据集成平台提供了将数据转化为可信、可行且可靠的信息资产所需的全部功能,可以随时随地集成任何的数据碎片、控制企业内或“云中”数据、高速传送数据、与合作伙伴共享数据、查找并解决数据质量问题、给予您凭借数据主动采取行动的能力、创建针对最重要数据资产的可靠视图等等,这些技术组合能够天衣无缝地配合运作,且可通过有效利用硬件基础设施来降低总体拥有成本,实现更精细化数据管理。
2014年,Informatica数据安全方案因满足市场热点需求而成为业务增长较快的单元。而另一种市场需求很大的是数据归档类方案。企业经过几年发展,积累了大量历史数据希望存档,Informatica提供了一些运算、存储等系列新技术,能够对历史数据进行归档、留存及分析,实现全生命周期数据的管理。
在大数据时代,有人会说Informatica是幸运儿,赶上了好机会,但事实上一直专注于数据集成业务的Informatica并没有变,依旧专注于如何用好数据、如何发挥数据最大价值。你不需要去适应时代,只需要真正去满足用户的需求,这才是成功的关键。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在Python开发中,HTTP请求是与外部服务交互的核心场景——调用第三方API、对接微服务、爬取数据等都离不开它。虽然requests库已 ...
2025-12-12在数据驱动决策中,“数据波动大不大”是高频问题——零售店长关心日销售额是否稳定,工厂管理者关注产品尺寸偏差是否可控,基金 ...
2025-12-12在CDA(Certified Data Analyst)数据分析师的能力矩阵中,数据查询语言(SQL)是贯穿工作全流程的“核心工具”。无论是从数据库 ...
2025-12-12很多小伙伴都在问CDA考试的问题,以下是结合 2025 年最新政策与行业动态更新的 CDA 数据分析师认证考试 Q&A,覆盖考试内容、报考 ...
2025-12-11在Excel数据可视化中,柱形图因直观展示数据差异的优势被广泛使用,而背景色设置绝非简单的“换颜色”——合理的背景色能突出核 ...
2025-12-11在科研实验、商业分析或医学研究中,我们常需要判断“两组数据的差异是真实存在,还是偶然波动”——比如“新降压药的效果是否优 ...
2025-12-11在CDA(Certified Data Analyst)数据分析师的工作体系中,数据库就像“数据仓库的核心骨架”——所有业务数据的存储、组织与提 ...
2025-12-11在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02在CDA(Certified Data Analyst)数据分析师的日常工作中,“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节,标准化是消除量纲影响的核心手段——它将不同量级的特征(如“用户年龄”“消费金额”)转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天,A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01